池化层
池化是缩小高、长方向上的空间的运算。比如,如图所示,进行将2 × 2的区域集约成1个元素的处理,缩小空间大小
上述例子是按步幅2进行2 × 2的Max池化时的处理顺序。“Max
池化”是获取最大值的运算,“2 × 2”表示目标区域的大小。如图所示,从2 × 2的区域中取出最大的元素。此外,这个例子中将步幅设为了2,所以2 × 2的窗口的移动间隔为2个元素。
另外,一般来说,池化的窗口大小会和步幅设定成相同的值。比如,3 × 3的窗口的步幅会设为3,4 × 4的窗口的步幅会设为4等等
除了Max池化之外,还有Average池化等。相对于Max池化是从目标区域中取出最大值,Average池化则是计算目标区域的平均值。在图像识别领域,主要使用Max池化。
池化层的特征
- 没有要学习的参数, 池化层和卷积层不同,没有要学习的参数,池化知识从目标区域中取最大值(平均值),所以不存在要学习的参数
- 通道数不发生变化,经过池化运算,输入数据和输出数据的通道数不会发生变化,如图所示,计算是按通道独立进行的
- 对于微小位置变化具有鲁棒性—健壮性
输入数据发生微小偏差时,池化会 × 3的池化的情况下,如图
7-16所示,池化会吸收输入数据的偏差(根据数据的不同,结果有可能不一致)返回相同的结果,因此,池化对输入数据的微小偏差具有鲁棒性,比如: