随机森林是一种集成学习方法，通过结合多个决策树进行分类或回归。每棵树的构建涉及随机样本选择和特征子集，降低了过拟合风险。OOB（Out-of-Bag）估计是随机森林的一大特点，用于模型内部评估，而特征选择则通过比较特征置换前后模型性能变化来确定重要性。
一、随机森林算法简介
随机森林属于集成学习（Ensemble Learning）中的bagging算法。Bagging (bootstrap aggregating)
Bagging即套袋法，其算法过程如下：
A）从原始样本集中抽取训练集。每轮从原始样本集中使用Bootstraping的方法抽取n个训练样本（有放回的抽样）。共进行k轮抽取，得到k个训练集。（k个训练集之间是相互独立的）
B）每次使用一个训练集得到一个模型，k个训练集共得到k个模型。
C）对分类问题：将上步得到的k个模型采用投票的方式得到分类结果；对回归问题，计算上述模型的均值作为最后的结果。
最低0.47元/天 解锁文章
扫一扫
1306
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
