task4:二手车价格预测的模型结果融合-学习笔记

模型融合方法学习总结
　　一般来说，通过融合多个不同的模型，可能提升机器学习的性能，这一方法在各种机器学习比赛中广泛应用，比如在kaggle上的otto产品分类挑战赛①中取得冠军和亚军成绩的模型都是融合了1000+模型的“庞然大物”。
https://www.cnblogs.com/libin47/p/11169994.html

常见的集成学习&模型融合方法包括：

1，简单加权融合：

a，回归(分类概率）：算术平均融合和几何平均融合
　　b，分类：投票（voting）
　　 在不改变模型的情况下，直接对各个不同的模型预测的结果，进行投票或者平均，这是一种简单却行之有效的融合方式
　　c，综合：排序融合（Rank averaging），log融合

2，stacking/blending：

Stacking
　　　Stacking模型的本质是一种分层的结构，用了大量的基分类器，将其预测的结果作为下一层输入的特征，这样的结构使得它比相互独立训练模型能够获得更多的特征。
　　下面以一种易于理解但不会实际使用的两层的stacking方法为例，简要说明其结构和工作原理：（这种模型问题将在后续说明）
　　假设我们有三个基模型M1,M2,M3，用训练集对其进行训练后，分别用来预测训练集和测试集的结果，得到P1，T1，P2，T2，