Step by step

转载 随机森林

介绍在集成学习的算法中，分为两种，一种是boosting，它的特点是各个弱分类器之间有依赖关系，另外一种是Bagging，各个弱分类器之间无联系，可以并行拟合。随机森林，属于Bagging流派的算法，每个分类器之间没有依赖关系； 首先从样本集中有放回地随机采集固定个数的样本，这样，会导致已经被采集到的数据可能会被再次采集到，当然，也会存在某些样本不被采集到。OOB：袋外数据（out of bag）