目录
-
随机森林的产生
决策树容易过拟合,偏差低,方差高
--> 可以降低方差的方式:Bagging(Boostrap aggregating),每个分类器对样本进行随机取样在平均。
--> 不仅对样本随机,对特征也随机,将多棵决策树进行融合,就是随机森林
-
Bagging思想详解
bootstrap样本:有放回的取样
aggregating:对多个基学习器进行平均
-
为什么Bagging可以降低方差
借鉴数学上对推导:
目录
决策树容易过拟合,偏差低,方差高
--> 可以降低方差的方式:Bagging(Boostrap aggregating),每个分类器对样本进行随机取样在平均。
--> 不仅对样本随机,对特征也随机,将多棵决策树进行融合,就是随机森林
bootstrap样本:有放回的取样
aggregating:对多个基学习器进行平均
借鉴数学上对推导: