零基础入门CV赛事—Task5 模型集成

5 模型集成

本章讲解的知识点包括：集成学习方法、深度学习中的集成学习和结果后处理思路。

5.1 学习目标

• 学习集成学习方法以及交叉验证情况下的模型集成
• 学会使用深度学习模型的集成学习

5.2 集成学习方法

5.2.1 Stacking

Stacking先从初始数据集训练出初级学习器（个体学习器），然后“生成”一个新数据集用于训练次级学习器（用于结合的学习器，也称元学习器meta-learner）。新的数据集中，初级学习器的输出被当作样例输入特征。

注：训练阶段，次级训练集是通过初级学习器产生的，若直接使用初级学习器的训练集来产生次级训练集，则过拟合风险会比较大；因此，一般是通过使用交叉验证这样的方式。

5.2.2 Bagging

也称自举汇聚法（bootstrap aggregating），是在原始数据集选择T次后得到T个新数据集。通过放回取样得到（比如要得到一个大小为n的新数据集，该数据集中的每个样本都是在原始数据集中随机取样，即抽样之后又放回）得到。基于每个采样集训练出一个基学习器，再将这些基学习器结合，在对预测输出进行结合时，Bagging通常对分类任务使用简单投票法，对回归任务采用简单平均法。Bagging主要关注降低方差。

为啥有放回取样？：训练数据不同，我们获得的基学习器可望具有比较大的差异。然而，如果采样出的子集都完全不同，则每个基学习器只用到了一小部分训练数据，甚至不足以进行有效学习，显然无法产生比较好的基学习器。所以，采取相互有交叠的采样子集。

5.3 深度学习中的集成学习

5.3.1 Dropout

Dropout可以作为训练深度神经网络的一种技巧。在每个训练批次中，通过随机让一部分的节点停止工作。同时在预测的过程中让所有的节点都起作用。Dropout经常出现在现有的CNN网络中，可以有效的缓解模型过拟合的情况，也可以在预测时增加模型的精度。

加入Dropout后的网络结构如下：

# 定义模型
class SVHN_Model1(nn.Module):
    def __init__(self):
        super(SVHN_Model1, self).__init__()
        # CNN提取特征模块
        self.cnn = nn.Sequential(
            nn.Conv2d(3, 16, kernel_size=(3, 3