6、【集成学习】之bagging、boosting、stacking浅析

最新推荐文章于 2022-07-01 17:14:02 发布

Alexander plus

最新推荐文章于 2022-07-01 17:14:02 发布

阅读量149

点赞数

分类专栏：数据挖掘 DA Machine-Learning 文章标签：集成学习 boosting 机器学习

本文链接：https://blog.csdn.net/Tianxuancsdn/article/details/125354176

版权

数据挖掘同时被 3 个专栏收录

20 篇文章 0 订阅 ¥299.90 ¥99.00

订阅专栏

超级会员免费看

17 篇文章 7 订阅 ¥99.90 ¥99.00

订阅专栏

超级会员免费看

Machine-Learning

13 篇文章 0 订阅

订阅专栏

- Bagging：最典型的就是随机森林（并行构造树运算取平均）
    - 随机：必须让每棵树都呈现出一个差异化，也就是随机--‘数据采样随机（有放回的抽样）、特征选择随机’
    - 森林：很多个决策树并行放在一起
- Boosting：（串行构造）从弱学习器开始加强
    - AdaBoost：会根据前一次的分类效果调整数据权重(如果某一个数据在这一次分错了，那么子按下一次就给他更大的权重，并且每个分类器根据自身的准确性来确定各自的权重，最后再合体)
    - Xgboost：
- Stacking：聚合各种各样的分类器（堆叠各类分类器） 
    - 一阶段得出各自结果
    - 二阶段拿前一阶段的结果进行训练