采样:
- pooling 也叫subsample。采样是一个特征选择的过程。
如果不采样,则可能存在:
- overfitting
- 参数过多,导致运算量大
- 无法满足模型结构需求
池化层的特性:
- 它可以一定程度提高空间不变性(特征相对位置),比如说平移不变性,尺度不变性,形变不变性
特征提取的误差来源:
- 领域大小受限
- 卷积层权值参数误差
average pooling 和max-pooling 的主要区别在于:
-
average -pooling能减小第一种误差,更多的保留图像的背景信
-
max-pooling能减小第二种误差,更多的保留纹理信息
Reference
[1] https://zhuanlan.zhihu.com/p/32299939