深度学习之：空洞卷积和普通卷积的感受野比较，简单地理解空洞卷积

普通卷积的感受野

• 感受野的定义是，某层的特征图上的每一个像素点对于原图的感知尺寸

• 对于原图，即第 0 层的特征图，其每个像素的感受野尺寸是 $1\times 1$

• 使用一个 $3\times 3$ 的卷积核，卷积之后得到的特征图中的每个像素都是原图中的 9 个像素点得来的，因此我们说第 1 层的特征图的感受野尺寸是 $3\times 3$

• 如果再加一个 $3\times 3$ 的卷积核，得到第 2 层的特征，那么这个特征图的每一个像素都是第 1 层的特征图上的 9 个点得到的，是第 0 层上的 $5\times 5$ 个点得到的，因此我们说第 $2$ 层的特征图的每一个像素的感受野是 $5\times 5$，而同样的如果再堆叠 $3\times 3$ 的卷积核，可以知道得到的特征图的感受野是 $7\times 7$
  

• 因此我们可以得到，对于传统的卷积操作，感受野的增长是线性的

空洞卷积的感受野

• 空洞卷积，顾名思义，原本卷积核没有洞，现在的卷积核上有洞，那么有洞的好处是什么呢，假设你现在有一个卷积核尺寸为 $5\times 5$，但是现在这个卷积核上有洞，参数量自然就小了呀。
• 因此你可以很容易知道，空洞 $3\times 3$ 卷积的 dilation rate =2感受野看起来应该和 $5\times 5$ 的卷积核是一样的。
  
• 因此空洞卷积可以使用两个卷积层使得特征图中像素的感受野迅速增长到 $7\times 7$，让我们看看这个过程
  
• 首先原图，即第 0 层的感受野依然是 $1\times 1$
• 接下来我们采用了一个 $3\times 3$ 的卷积层（即dilation rate=1的卷积层）得到第 1 层的特征图的每个像素的感受野都是 $3\times 3$
• 然后我们采用了一个 dilation rate = 2 的卷积层，继续卷积得到了第 2 层的特征图，这一步操作其实完全相当于使用了一个 $5\times 5$ 的卷积核，因此得到的特征图的感受野迅速增长到了 $7\times 7$ 如上图所示。
• 这也就是原论文中下面的描述
  
  • 即，通过 dilation rate = 1 和 dilation rate=2 的两个卷积层之后得到的特征图的感受野就是 $7\times 7$ 而再叠加一个 dilation rate=4 的卷积层，就相当于再通过一个尺寸为 $9\times 9$ 的卷积核，因此其感受野又会迅速增长为 $15\times 15$，因此空洞卷积的感受野是指数级别增长的。