模型结果融合

目的

1、对于多种调参完成的模型进行模型融合。

2、完成对于多种模型的融合，提交融合结果并打卡。

模型类型

Datawhale 零基础入门数据挖掘-Task5 模型融合

五、模型融合

Tip:此部分为零基础入门数据挖掘的 Task5 模型融合 部分，带你来了解各种模型结果的融合方式，在比赛的攻坚时刻冲刺Top，欢迎大家后续多多交流。

赛题：零基础入门数据挖掘 - 二手车交易价格预测

地址：https://tianchi.aliyun.com/competition/entrance/231784/introduction?spm=5176.12281957.1004.1.38b02448ausjSX

5.1 模型融合目标

对于多种调参完成的模型进行模型融合。

完成对于多种模型的融合，提交融合结果并打卡。

5.2 内容介绍

模型融合是比赛后期一个重要的环节，大体来说有如下的类型方式。

1、简单加权融合:
回归（分类概率）：算术平均融合（Arithmetic mean），几何平均融合（Geometric mean）；
分类：投票（Voting)；
综合：排序融合(Rank averaging)，log融合；

4、stacking/blending:
构建多层模型，并利用预测结果再拟合预测。

3、boosting/bagging（在xgboost，Adaboost,GBDT中已经用到）:
多树的提升方法

stacking的介绍

stacking 就是当用初始训练数据学习出若干个基学习器后，将这几个学习器的预测结果作为新的训练集，来学习一个新的学习器。