模型融合方法

  常见的模型融合方法包括平均法、投票法和学习法，其中平均法和投票法是使用较为简单的策略对个体学习器的预测结果进行组合，学习法则使用模型自动学习出组合的策略。

1.平均法

  多用于回归，包括：简单平均、加权平均。

2.投票法

  多用于分类，包括：相对多数投票（少数服从多数）、绝对多数投票（多数票须超过半数）、加权投票。

3.学习法

  一种更为强大的结合策略，即通过另一个学习器来结合，把个体学习器称为初级学习器，用于结合的学习器称为次级学习器或元学习器。常见的有Stacking和Blending。
①Stacking
  Stacking一般使用交叉验证的方法，初始训练集D被随机划分为k个集合 D 1 , D 2 , . . . , D