阿里云天池cv入门赛记录（5）——TASK5 模型集成

这次赛题学习的最后一个任务，是学校如何使用集成学习提高预测精度。知识点包括：集成学习方法，深度学习中的集成学习和结果后处理思路。（虽然我跑一次要一天，还不一定成功，但要坚持学习）

1、集成学习方法
常见的集成学习方法有堆叠，装袋和提升，同时这些集成学习方法与具体验证集划分联系紧密。

下面假设建造了10折交叉验证，训练得到10个CNN模型。

那么在10个CNN模型可以使用如下方式进行集成：

• 对预测的结果的概率值进行平均，然后解码为特定字符
• 对预测的字符进行投票，得到最终字符。

2、深度学习中的集成学习

• 辍学
  在每个训练期间中，通过随机让其的一部分停止工作。同时在预测的过程中让所有的中断都其作用。
  
  辍学经常出现在先有的CNN网络中，可以有效的缓解模型过拟合的情况，也可以在预测时增加模型的精度。

加入Dropout后的网络结构如下：

#定义模型
class SVHN_Model1(nn.model):
    def __init__(self):
        super(SVHN_Model1, self).__init__()
        #CNN提取特征模块
        self.nn = nn.Sequential(
            nn.Conv2d(