本文探讨了不同于传统卷积神经网络（如AlexNet）的设计思路，即NiN（Network in Network）。NiN通过串联多个小网络，包括1*1卷积层，实现深度网络的构建。1*1卷积用于在通道间进行特征变换，使全连接层与卷积层间维度匹配。NiN摒弃了AlexNet的全连接层，采用全局平均池化层，减少了参数，缓解过拟合，但增加了训练时间。
本文重点
前面的课程中我们学习了众多的经典网络模型，比如LeNet、AlexNet、VGG等等，这些网络模型都有共同的特点。
它们的特点是：先由卷积层构成的模块充分提取空间特征，然后再由全连接层构成的模块来输出分类结果。也就是说它们都是下面的这种效果，先卷积后全连接：
它们的不同在于对卷积层中卷积核的大小以及卷积层的层数进行了改变，其它的变化不大。而本文我们将学习另外一个思想的卷积神经网络，这个卷积神经网络就是NiN，它的思想是：串联多个由卷积层核全连接层构成的小网络来构成一个深层网络。
1*1卷积核的应用
卷积层的输入和输出的维度信息通常是(样本、通道、长、宽)。而全连接层的输入和输出通常是二维数组(样本，特征)。
所以维度不一样，就无法让全连接层之后连上卷积层，这里我们可以使用1*1的卷积层，前面我们学习过1*1的卷积层可以看成是全连接层，使用1*1的卷积层使得空间信息自然的传递到后面的层中去。
订阅专栏 解锁全文
扫一扫
677
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
