感受野的概念以及如何计算？

1.什么是感受野？

感受野：在卷积神经网络中，决定某一层输出结果中一个元素所对应的输入层的区域大小，被称为感受野。（输出feature map上的一个单元对应输入层上的区域大小）

2.感受野计算公式

F(i)=[ F(i+1)-1 ] * Stride + KSize （注意看上面的图，这里把最下面看作第一层，然后依次往上递增）

F(i)表示第i层感受野
Stride为第i层步距,影响输出宽高
KSize为卷积核或者池化核的尺寸

---

3.以VGG网络为例，为什么两个3x3的卷积核可以替换一个5x5的卷积核，3个3x3的卷积核可以替换一个7x7的卷积核？这可以用感受野解释

（注意：在VGG中，Stride 步距默认为1。使用了3x3的卷积核，KSize=3）

假如有3层卷积操作，则Feature map 这层是第 4 层。

只看Feature map中的一个元素，套入上面公式：F(i)=[ F(i+1)-1 ] * Stride + KSize

Feature map : F(4)=1
Conv3x3(3)第三层 : F(3)=[ F(4)-1 ] x 1 + 3 = 3 （1个3x3卷积）
Conv3x3(2)第二层 : F(2)=[ F(3)-1 ] x 1 + 3 = 5 （2个3x3卷积）
Conv3x3(1)第一层 : F(1)=[ F(2)-1 ] x 1 + 3 = 7 （3个3x3卷积）

可以结合上图来看，方便理解

4.有时候使用小的3x3卷积核堆叠，也可以有效的减少参数，这里和7x7卷积核做个对比

假设输入和输出的 channel 为 C，分别计算所需参数：

7x7卷积核 ：7x7xCxC=49C^2
3个3x3卷积核 ：3x3xCxC + 3x3xCxC + 3x3xCxC = 27C^2 (明显减少)