十大经典预测算法(七)—随机森林

算法概述

随机森林,顾名思义就是由很多决策树融合在一起的算法,它属于Bagging框架的一种算法。

随机森林的“森林”,它的弱模型是由决策树算法训练的(CART算法),CART算法即能做回归也能做分类,“随机”是指构造的模型有一定的随机性。

十大经典预测算法(七)---随机森林

十大经典预测算法(七)---随机森林

每一颗决策树模型的训练是通过自助采样法(Boostrap抽样)抽出来的,所以每一个子模型的训练样本并不是完全相同的,每一个子模型都存在一些样本不在该模型的训练集中,那些没有被该子模型抽中的样本可作为这个子模型的测试集。

每一颗决策树模型在构建的时候并没有使用所有的特征变量,而是随机的从所有特征中抽取一个子集来训练模型,这样保证了子模型不但训练样本不完全一样,连特征变量也不完全一样,这样就很好的保证了多个子模型的随机性。

所以随机森林算法的随机性主要体现在以下两个方面:

1、子模型的训练样本是随机抽取的

2、子模型的特征变量也是随机抽取的

随机性的引入使得随机森林模型不容易陷入过拟合,具有很好的抗噪能力。而且随机性保证了各子模型间的多样性,子模型间差异越大,模型融合起来的效果会越好,如下图所示:

十大经典预测算法(七)---随机森林

 

原创文章,作者:奋斗,如若转载,请注明出处:https://blog.ytso.com/tech/aiops/309212.html

(0)
上一篇 2023年12月4日 14:17
下一篇 2023年12月4日 14:18

相关推荐

发表回复

登录后才能评论

WordPress 数据库错误: [Duplicate entry '82-4d3f5343d1f1b32d21fd4fb47d88d6b2' for key 'task_id_source_url_key']
insert into wp_autoblog_queue(task_id,source_url,source_url_key,create_date_time,not_check_stoped,post_interval) values(82,'https://www.idc.net/help/os/linux/page/6438/','4d3f5343d1f1b32d21fd4fb47d88d6b2',1734921744,0,0)