定义
pooling层,也叫池化层,它的输入一般来源于上个卷积层(conv)。
作用
主要包含以下几个作用:
- 保留主要的特征,同时减少下一层的参数和计算量,防止过拟合;
- 保持某种不变性,包括translation(平移),ratation(旋转),scale(尺度),常用的有mean-pooling和max-pooling。
分类
常用到的有以下几种:
- mean-pooling(平均池化层)
其主要做法为:
- forward正向传播
对指定的pooling的窗大小,进行取平均值,以来代替该窗大小区域。
假设pooling的窗大小为2x2,那么便将四格中的数据相加,并除以4,所得值为该区域值。
- backward反向传播
则是反向操作,将一个值分成四等份,分别放到前面2x2的格子中。
- max-pooling(最大池化层)
其主要做法为:
- forward正向传播
对指定的pooling的窗大小,进行取最大值,以来代替该窗大小区域。
假设pooling的窗大小为2x2,那么便将四格中最大值设为该区域值。
- backward反向传播
则是反向操作,将其他格子中的数值置为零。
上采样和下采样
图片缩小便是下采样;图片扩张便是上采样。