5 Task5 模型融合
Tip:此部分为零基础入门金融风控的 Task5 模型融合部分,欢迎大家后续多多交流。
赛题:零基础入门数据挖掘 - 零基础入门金融风控之贷款违约预测
地址:
5.1 学习目标
将之前建模调参的结果进行模型融合。
尝试多种融合方案,提交融合结果并打卡。(模型融合一般用于A榜比赛的尾声和B榜比赛的全程)
5.2 内容介绍
模型融合是比赛后期上分的重要手段,特别是多人组队学习的比赛中,将不同队友的模型进行融合,可能会收获
意想不到的效果哦,往往模型相差越大且模型表现都不错的前提下,模型融合后结果会有大幅提升,以下是模型
融合的方式。
- 平均:
a. 简单平均法
b. 加权平均法 - 投票:
a. 简单投票法
b. 加权投票法 - 综合:
a. 排序融合
b. log融合 - stacking:
a. 构建多层模型,并利用预测结果再拟合预测。 - blending:
a. 选取部分数据预测训练得到预测结果作为新特征,带入剩下的数据中预测。Blending只有一层,而
Stacking有多层 - boosting/bagging(在Task4中已经提及,就不再赘述)