1.9 池化层(pooling layers)
除了卷积层,卷积神经网络也经常使用池化层来缩减模型大小提高计算速度,同时提高所提取特征的鲁棒性。
举个例子来看池化层的必要性,假设用到的池化类型是最大池化(max pooling),如下图所示:
也许可以把这个4*4的区域看作是某些特征的集合,也就是神经网络中某一层未使用激活函数之前的值,即Z,数字大意味着可能提取了某些特征,它可能表示垂直边缘、一只眼睛,或者大家害怕遇到的cap,这个特征可能是猫眼探测器对应的输出结果,所以可以看出,左上限有这个特征(有9这个比较大的值),而右上限没有(没有特别大的值),即左上限检测出了猫眼这个特征但右上限没有,而max pooling就是在filter宽度为2,即f=2,步长为2,即stride=2的情况下,取框内的最大值,所以右侧2*2矩阵中,紫色方框内值为9,蓝色为2,绿色为6,红色为3。
再来看一个关于max pooling的例子,如下图所示: