个人对stacking的思想理解

主要分为几个基础模型，一个元模型

对于基础模型，采用K折交叉的方式来采样数据，并分别进行训练，这样对于每个模型，都会用K组采样数据来进行训练，从而得到K个不同的模型版本

假设现在基础模型有KNN，SVM， 那么对基础模型训练后会得到如下几个模型：

KNN_model1, KNN_model2....KNN_modelK

SVM_model1, SVM_model2....SVM_modelK

然后对于一个样本，用这些模型的预测值作为输入，用样本的实际输出作为输出，构造训练数据

就是输入作为特征，输出作为输出，然后用这些数据来训练元模型，当然元模型的输入还可以加入其它的特征

这说的是训练阶段

 

预测阶段：

其实逻辑类似，也是先计算所有的基础模型的预测值，然后求均值，并作为元模型的输入，元模型的输出就是最终整个模型的预测值