空洞卷积(dilated conv)
对空洞卷积的理解
今天听了一堂关于研究生科学素养的课,老师讲到,当代研究生很多人都只是有输入没有输出,随着时间的流逝,输入的知识也就淡忘了,所以提醒我们,在学习的过程中要有总结和记录,使用各种方法在头脑和电脑上面留下学过的印记,所以我以后都会花时间整理所学知识,相信这是个正确的学习方法。
产生的原因
空洞卷积最初的提出是为了解决图像分割的问题而提出的,常见的图像分割算法通常使用池化层和卷积层来增加感受野(Receptive Filed),同时也缩小了特征图尺寸(resolution),然后再利用上采样还原图像尺寸,特征图缩小再放大的过程造成了精度上的损失,因此需要一种操作可以在增加感受野的同时保持特征图的尺寸不变,从而代替下采样和上采样操作,在这种需求下,空洞卷积就诞生了。
概念
在普通卷积中间加上空白,就是空洞卷积,其中dilation表示空洞率,也就是卷积核之间的距离。卷积核之间的距离,也即白色方块的个数=dilation-1。灰色方块表示卷积核的权重,白色表示权重为0。
卷积过程如下图:
首先,解释,为什么说空洞卷积增大了感受野?
a是普通的卷积过程,卷积后的感受野为3。
b是dilation rate = 2的空洞卷积,卷积后的感受野为5。
c是dilation rate = 3的空洞卷积,卷积后的感受野为8。
所以说空洞卷积确实增大了卷积操作之后的感受野。
空洞卷积后的感受野计算公式:k=(n-1)* d - 1
其中,n为原卷积核大小,d为空洞率。
再来解释,为什么说空洞卷积没有改变图片尺寸?
因为卷积后图片的尺寸大小为
其中滤波器大小为(FH,FW),P为填充大小,S为步长。显然,输出图片大小与空洞率等无关,所以输出图片的尺寸不变。
优点
dilated的好处是不做pooling损失信息的情况下,加大了感受野,让每个卷积输出都包含较大范围的信息。
缺点
虽然空洞卷积增大了感受野,但是,由于空洞卷积的计算方式类似于棋盘格式,某一层得到的卷积结果,来自上一层的独立的集合,没有相互依赖,因此该层的卷积结果之间没有相关性,即局部信息丢失。