简单加权融合:
- 回归(分类概率):算术平均融合(Arithmetic mean),几何平均融合(Geometric mean);
- 分类:投票(Voting)
- 综合:排序融合(Rank averaging),log融合
stacking/blending:
- 构建多层模型,并利用预测结果再拟合预测。
boosting/bagging(在xgboost,Adaboost,GBDT中已经用到):
- 多树的提升方法
Stacking介绍
- 是什么:stacking是当用初始训练数据学习出若干个基学习器后,将这几个学习器的预测结果作为新的训练集,来学习一个新的学习器。
- 怎么做:
Stacking实例(回归和分类)
1.回归
from sklearn import linear_model
def Stacking_metho