Network In Network - Global Average Pooling部分翻译

本文仅用作学习记录，一下内容均为自己边学习边翻译记录所得。

Global Average Pooling：

       传统的卷积神经网络会在较低层执行卷积操作。对于用来的分类网络来说，将最后一层卷积的feature map向量化，然后送入全连接层，最后就是一个softmax 的logistic层。这样的结构将卷积结构和传统的神经网络分类器连接了起来。他将卷积层看作是一个特征提取器，并用传统的方法对其提取的特征进行分类。

       然而，全连接层容易出现过拟合的线性，从而影响整体网络的泛化能力。Dropout是由Hinton等人提出的一种正则化算法，该算法在训练过程中将随机将全连接层一半的激活设置为0。它提高了网络的泛化能力，很大程度上防止了过拟合的发生。

       在本文中，我们提出了另一种策略，叫做Global Average Pooling 来取代传统CNN中的全连接层。这个思想是为最后一个mlpconv层中的分类任务的每一个类别分别生成一个feature map。我们对所有的feature map进行了average操作而替代在最上面的feature map上添加全连接层，并且得到的向量直接输入softmax层。Global Average Pooling与全连接层相比的一个优点是，因为它通过增强feature map和类别之间的对应关系来适应卷积结构。因此，feature map（特征映射）可以容易被理解为分类置信度映射。另一个优点是在全局平均池化层中没有需要优化的参数，因此在这一层中避免了过拟合的发生。此外Global Average Pooling 还对空间信息进行了汇总，从而输入的空间转换更具有鲁棒性。

       我们可以将Global Average Pooling 看作是一个结构正则化器，他进行了feature map到类别的一个强制映射。这是由mlpconv层实现的，因为它比广义线性模型更接近置信度映射。

 

 

总结：

1. 降维的作用
2. 防止过拟合
3. 减少参数