机器学习算法（5）—— 集成学习算法_集成学习算法库

• 1 集成学习介绍
• 2 Bagging介绍
• • 2.1 Bagging 集成原理
    • 2.2 随机森林
    • • 2.2.1 随机森林的构造
        • 2.2.2 包外估计
        • 2.2.3 随机森林api介绍
        • 2.2.4 随机森林案例
    • 2.3 Bagging 小结
• 3 Boosting
• • 3.1 Boosting 集成原理
    • 3.2 与 Bagging 的区别
    • 3.3 AdaBoost
    • 3.4 GBDT

1 集成学习介绍

集成学习通过建立几个模型来解决单一预测问题。它的工作原理是生成多个分类器/模型，各自独立地学习和作出预测。这些预测最后结合成组合预测，因此优于任何一个单分类的做出预测。

机器学习的两个核心任务

• 如何优化训练数据 —> 主要用于解决欠拟合问题
• 如何提升泛化性能 —> 主要用于解决过拟合问题

只要单