task5模型融合

简单加权融合:

• 回归（分类概率）：算术平均融合（Arithmetic mean），几何平均融合（Geometric mean）；
• 分类：投票（Voting)
• 综合：排序融合(Rank averaging)，log融合

stacking/blending:

• 构建多层模型，并利用预测结果再拟合预测。

boosting/bagging（在xgboost，Adaboost,GBDT中已经用到）:

• 多树的提升方法

Stacking介绍

• 是什么：stacking是当用初始训练数据学习出若干个基学习器后，将这几个学习器的预测结果作为新的训练集，来学习一个新的学习器。

• 怎么做：

Stacking实例（回归和分类）

1.回归

from sklearn import linear_model

def Stacking_metho