Boosting有三种典型的算法是AdaBoost、XGBoost和GBDT(计算残差)
Boosting是基于样本的是因为在训练过程中每次训练的数据总量不会变,而是不断调整上一步预测错误数据的权重,然后继续训练,最后将弱的分类器组合成强的分类器(可见AdaBoost算法加以理解);
stacking基于模型的是在训练过程中不断调整模型参数,然后得到最终的模型,再使用逻辑回归组合这些最终模型。
参考链接:https://www.biaodianfu.com/boosting.html
补充lightGBM详解参考链接:https://blog.csdn.net/weixin_44023658/article/details/106732861?utm_medium=distribute.pc_relevant.none-task-blog-2%7Edefault%7ECTRLIST%7Edefault-1.no_search_link&depth_1-utm_source=distribute.pc_relevant.none-task-blog-2%7Edefault%7ECTRLIST%7Edefault-1.no_search_link
集成学习Boosting与Stacking的区别
最新推荐文章于 2023-04-11 09:19:46 发布