关于感受野的总结

关于感受野的总结

概念

感受野是每个神经元仅与输入神经元相连接的一块区域。通俗的讲，就是该层输出特征图上的一点映射到输入特征图的区域大小。可以说成，神经元所看到的输入特征图的区域大小。

计算感受野

ps：我当时就说怎么公式不一样，原来有两个。。。

1. 公式1：
   $$R{F}_n=R{F}_{n-1}+(K_n-1)\ast \prod _{i=0}^{n-1}Strid{e}_i$$
   注意：$R{F}_{n-1}$为第n-1层输出特征图的感受野大小，其中$R{F}_0=1$。
2. 公式2：
   $$R{F}_n=(R{F}_{n+1}-1)\ast Strid{e}_n+K_n$$
   注意：从上往下推导，$R{F}_{n+1}$为第n+1层输出特征图的感受野大小，其中最后一层输出特征图的感受野大小为其kernel_size大小。

计算可以参考如何计算感受野

感受野的作用

1. 例如在VGGNet中，采用3x3卷积组合代替大尺寸的卷积（两个3x3的卷积可以代替5x5卷积来获得相同的感受野），可减少网络参数、增加网络深度。

2. 在分类任务中，感受野一般要大于输入图像的大小，因为大的感受野可以让你忽略的信息更少。但也不能太大，一般我们在设计卷积神经网络时，对于最高层网络特征感受野大小的存在限制。

3. 在目标检测中，放置anchor层的感受野的大小一般要与anchor大小差不多。如果感受野大于anchor大小的话，就像给你一张世界地图，就让你去检测到故宫的位置。说白了就是你看到的信息太多了，难以做出正确的判断。同理，如果感受野小于anchor的大小，得到的信息太少也难以检测到正确的结果。

增大感受野的方式

1. 使用空洞卷积。在语义分割中，使用空洞卷积代替下采样操作，避免信息损失，扩大感受野。因为池化会降低分辨率，丢失信息，导致准确率下降。
2. 使用大的卷积核。从公式中得知，感受野与卷积核大小和步长有关，所以使用大的卷积核也可以获得更大的感受野。
3. 增加网络层数（卷积、池化），但是要避免网络的开销过大。

欢迎交流学习补充！