全局平均池化

全局平均池化（Golbal Average Pooling）

该概念来自于2013年的 Network In Network

目标：

消除全连接层，可接受任意尺寸的图像

存在的意义：

在卷积神经网络的初期，卷积层通过池化层（一般是 最大池化）后总是要一个或n个全连接层，最后在softmax分类。其特征就是全连接层的参数超多，使模型本身变得非常臃肿。全连接存在的问题：参数量过大，降低了训练的速度，且很容易过拟合。

思想：

对于输出的每一个通道的特征图的所有像素计算一个平均值，经过全局平均池化之后就得到一个 维度=C_{in}=类别数 的特征向量，然后直接输入到softmax层

优点：

1）可以更好的将类别与最后一个卷积层的特征图对应起来（每一个通道对应一种类别，这样每一张特征图都可以看成是该类别对应的类别置信图）
2）降低参数量，全局平均池化层没有参数，可防止在该层过拟合
3）整合了全局空间信息，对于输入图片的spatial translation更加鲁棒

具体实现

在分类神经网络的最后，为每个类别分别配置一个特征图；将特征图所有像素值相加求平局，得到一个数值，即用该数值表示对应特征图。作为后续softmax层的输入。

---

原文：https://www.jianshu.com/p/00125f6e7d0a