扩张卷积devisitng dilated convolution

背景

我们之前增加我们网络的上下文信息一般用的都是：增加滤波器的大小、数量；或者说池化层等。但是这样导致的问题就是：会增加我们模型的参数数量和复杂度，并且池化层太多还会导致我们信息丢失。so扩张卷积出世啦

扩张卷积原理

一句话概括：相当于在卷积核里面加入间隔，使感受野变大

上图中(a)是基础的卷积核，扩张卷积就是在这个基础卷积核加入间隔，上图(b)对应3 × 3 3\times33×3 的dilation rate=2的卷积，但是间隔为1，也就是相当于对应7 × 7 7\times77×7的图像块，可以理解为kernel size还是变成了7 × 7 7\times77×7，但是却只有9个点有参数，其余的位置参数都是0，和输入特征图对应位置的像素进行卷积计算，其余的位置都略过。

当然，他也不是完美的，也有问题

因为卷积核是有间隔的，这意味着不是所有的输入都参与计算，整体特征图上体现出一种卷积中心点的不连续，尤其是当叠加的卷积层都是用相同的dilation rate的时候：

解决方法

最好的方式是将连续排布的扩张卷积的dilation rate设置为“锯齿状”，比如分别是[1，2，3] 《递增式扩张》

但是很奇怪的是，我现在看的那篇基于高斯热力图的全卷积光学遥感图像论文，它里面用的扩张卷积是使用平方式的速率进行扩张的，既：2 4 8