liangquansheng的博客

原创 随机森林（RF）

一 集成学习概念 集成学习通俗理解就是“三个臭皮匠，顶个诸葛亮”。对于复杂任务，通过适当的方式集成多个个体学习器（弱分类器）所得到的最终模型要比单独的个体学习器（弱分类器）的性能更优。所以问题的关键点就转化为两点：如何选择、生成弱分类器和如何对他们进行集成，通常有以下三种思路： 将不同类型的弱分类器进行集成，例如同用于分类的SVM，LR，RF等 将相同类型不同参数的弱分类器进行集成，例如GBDT...