数据挖掘-金融风控-模型融合05

最新推荐文章于 2022-02-11 10:58:59 发布

慕安春临

最新推荐文章于 2022-02-11 10:58:59 发布

阅读量183

点赞数

分类专栏：数据挖掘-金融风控

本文链接：https://blog.csdn.net/xuhong_001/article/details/108827095

版权

5 篇文章 0 订阅

订阅专栏

模型融合是比赛后期上分的重要手段，特别是多人组队学习的比赛中，将不同队友的模型进行融合，可能会收获到意象不到的效果，往往模型相差越大且模型表现都不错的情况下，模型融合后结果会有很大的提升，主要的融合人方式有：

stacking将若干基学习器获得的预测结果，将预测结果作为新的训练集来训练一个学习器，将数据代入五基学习器中得到预测结果，在代入到模型六中进行训练预测。
但是，由于直接将五基学习器中的结果代入到模型六中，容易导致过拟合，所以在使用五集模型进行预测时，可以考虑使用k折验证，防止过拟合。
blending与stacking不同，blending时将预测的值作为新的特征和原特征进行合并，构成新的特征值，用于预测。为了防止过拟合，将数据分为两个部分d1，d2，使用d1的数据集作为训练集，d2数据集作为测试集。预测得到的数据作为新特征使用d2的数据作为训练集结合新特征，预测测试集的结果。
blending与stacking的不同
stacking

satcking中由于两层使用的数据不同，所以可以避免信息泄露的问题
在组队竞赛的过程中，不需要给队友分享自己的随机种子

blending

由于blending对数据划分为两个部分，在最后预测时有部分信息将被忽略
同时在使用的第二层数据可能会因为第二层数据减少产生过拟合现象

关注

专栏目录