神经网络的感受野

神经网络的感受野

关于的神经网络感受野，最直观的一个理解是：当我们通过卷积、池化等操作获得一个特征图以后，这张特征图上的一个特征点（一个像素），受到了原输入图像上多大范围内像素的影响。感受野事实上反映了当前用来对输入图像进行描述的特征，究竟能够涵盖到输入图像上多大范围内的信息。

在研究中表明，理论感受野所覆盖的像素，对于一个CNN特征来说，并不是同等重要，而是越靠近感受野中心的像素产生的影响越大，呈指数级聚焦。

这表明了理论感受野和模型的实际感受野存在的差异性。尽管如此，在实际的任务中，我们仍然可以利用理论感受野进行估算。当想要检出的目标在原图上具有较大尺度的时候，应该尤其注意模型的设计是否符合目标所需的感受野大小。

一、感受野的计算

下图给出了感受野可视化的两种方式。

左边一列直接从卷积运算的角度出发，来直观计算两层卷积之后特征的感受野大小。第一层输入图像大小为 5×5，卷积核大小 k = 3×3，步长 s = 2，padding = 1x1。第一层卷积之后图像的为 3×3，根据卷积的计算方法，第一层特征图（绿色）的感受野为 3×3。接下来第二层卷积采用完全相同的设置，假设padding部分也按完全相同的方式进行卷积，找到参与第二层卷积计算的所有第一层特征图像素，分析其各自的感受野范围，则可以得到第二层特征图（黄色）感受野为 7×7。

右边一列则固定了感受野的中心。其推算方法与前面相同，只是在标注感受野时在不同层的特征图上对齐到了各自中心位置。在这列图中，每个特征（绿色、黄色方块），被标记到了其感受野所在的中心位置。

感受野的计算则可以按下述公式递推进行：

1. 计算本层输出特征图大小 $n_{out}$，其中 $n_{in}$