前言
感受野 Recptive Field,之前一直遇到这个名词,没有追究下去。今天抽个机会,好好研究一下。
先推荐几篇文章:
https://zhuanlan.zhihu.com/p/31004121
https://www.jianshu.com/p/7cfa6bb6d621
定义
看看大佬们的定义
(1)The receptive field is defined as the region in the input space that a particular CNN’s feature is looking at (i.e. be affected by). —— Dang Ha The Hien
(2)在卷积神经网络中,感受野的定义是: 卷积神经网络每一层输出的特征图(feature map)上的像素点在原始图像上的映射大小。 ——博客园
(3)在机器视觉领域的深度神经网络中有一个概念叫 感受野,用来表示网络内部的不同位置的神经元多原图像的感受范围的大小。 ——蓝荣祎
计算方法
比如下图(该图为了方便,将二维简化为一维),这个三层的神经卷积神经网络,每一层卷积核的??????_???? = 3 ,?????? = 1,那么最上层特征所对应的感受野就为如图所示的7x7。
如何增大感受野
在深度学习中,有时候需要增大感受野来提高网络的性能。通常可以考虑用以下三种方式来增大感受野:
- 增加pooling层,但是会降低准确性(pooling的过程中会造成信息丢失)
- 增大卷积核kernel size,但是会增加参数
- 增加卷积层的个数,但是会造成梯度消失的问题
福利来了
下面的链接,输入神经网络的参数,自动计算每一层感受野的大小。
https://fomoro.com/projects/project/receptive-field-calculator#