深度学习：如何计算感受野

感受野（Receptive Field）是卷积神经网络（CNN）中的一个重要概念，用于描述输入图像中的一个像素在输出特征图中影响的区域大小。在设计和理解卷积神经网络时，计算感受野有助于理解网络如何对输入数据进行处理。

计算感受野的方法

单层卷积的感受野

对于一个卷积层，如果我们知道卷积核的大小 ( k )，步幅 ( s )，和填充 ( p )，单层卷积的感受野计算比较简单。对于第 ( i ) 层卷积，感受野可以表示为：
$$Ri=ki+(Ri-1-1)\times si$$
其中：

• $(R_i)$ 是第 ( i ) 层的感受野大小
• $(k_i)$ 是第 ( i ) 层卷积核的大小
• $(s_i)$ 是第 ( i ) 层的步幅
• $(R_{i-1})$ 是前一层的感受野大小

多层卷积的感受野

为了计算整个网络的感受野，我们需要从最顶层（靠近输入）开始，逐层往上计算每一层的感受野。考虑网络中的每一层的卷积核大小、步幅和填充。

示例

假设一个简单的卷积神经网络如下：

输入图像大小为 (32 \times 32)

• 第一层：卷积层，卷积核大小 $(3\times 3)$，步幅 1，填充 1
• 第二层：池化层，池化窗口大小 $(2\times 2)$，步幅 2，填充 0
• 第三层：卷积层，卷积核大小 $(3\times 3)$，步幅 1，填充 1

我们计算每一层的感受野：

• 第0层（输入层），感受野大小 $(1\times 1)$
• 第1层（第一层卷积层）：
  $$[R_1=3+(1-1)\times 1=3]$$
  感受野大小为 $(3\times 3)$
• 第2层（池化层）：
  $$[R_2=2+(3-1)\times 2=6]$$
  感受野大小为 $(6\times 6)$
• 第3层（第二层卷积层）：
  $$[R_3=3+(6-1)\times 1=8]$$
  感受野大小为 $(8\times 8)$

因此，在这个简单的卷积神经网络中，最后一层输出的每一个像素对应输入图像中的一个 $(8\times 8)$ 区域。

实际计算例子

让我们通过一个更详细的实际例子来计算一个复杂卷积神经网络的感受野。假设以下是一个卷积神经网络结构：

输入图像大小：$(224\times 224)$

• 卷积层1：卷积核 $(7\times 7)$，步幅 2，填充 3
• 最大池化层：池化窗口 $(3\times 3)$，步幅 2，填充 1
• 卷积层2：卷积核 $(3\times 3)$，步幅 1，填充 1

我们从输入层开始逐层计算：

• 输入层感受野：1
• 卷积层1：
  $$[R_1=7+(1-1)\times 2=7]$$
  感受野大小：$(7\times 7)$
• 最大池化层：
  $$[R_2=3+(7-1)\times 2=15]$$
  感受野大小：$(15\times 15)$
• 卷积层2：
  $$[R_3=3+(15-1)\times 1=17]$$
  感受野大小：$(17\times 17)$

这个计算过程可以通过一个Python脚本来自动化：

def calculate_receptive_field(layers):
    receptive_field = 1
    for layer in reversed(layers):
        kernel_size, stride, padding = layer
        receptive_field = kernel_size + (receptive_field - 1) * stride
    return receptive_field

# 定义网络的每一层：(卷积核大小，步幅，填充)
layers = [
    (3, 1, 1),  # Conv Layer 2
    (3, 2, 1),  # Max Pooling Layer
    (7, 2, 3)   # Conv Layer 1
]

rf = calculate_receptive_field(layers)
print(f'The receptive field is {rf} x {rf}')

通过这个脚本，可以方便地计算任意复杂网络的感受野。