池化
通常池化层紧跟在 CNN 的卷积层之后。
池化方法:
- max-pooling:对邻域内特征点取最大值
- mean-pooling:对邻域内特征点求平均
池化的作用:
- 降维,减少网络要学习的参数数量
- 防止过拟合
- 扩大感受野
- 实现不变性(平移、旋转、尺度不变性)
池化下采样比较粗暴,可能将有用的信息滤除掉,而卷积下采样过程控制了步进大小,信息融合较好,现在池化操作较少的被采用。
pooling提供了一种非线性,这种非线性需要较深的conv叠加才能实现,因此当网络比较浅的时候,pooling有一定优势;但是当网络很深的时候,多层叠加的conv可以学到pooling所能提供的非线性,甚至能根据训练集学到比pooling更好的非线性,因此当网络比较深的时候,不使用pooling没多大关系,甚至更好。