Dilated Convolution(带洞卷积)

1 提出原因:

    传统的FCN,Segnet网络等等pooling(其中池化的意义一方面是降低计算量,另一方面是增大感受野)之后需要对其进行upsampling,以扩大图像尺寸。将图像由小变大的过程势必导致一些信息的丢失,那么就会想到是否可以不进行pooling操作,也可以增大感受野呢。本文提出的dilated convolution正是为了解决这个问题。

2 结构:
2.1 一维

 

(a)为k=3,stride=2 的普通卷积;(b)为k=3,stride=1的卷积;(c)为k=3,stride=1,dilation=2的空洞卷积这里虽然卷积核长度仍为3,但每隔2个点采样一次(也可以理解为长度为5但其中两个位置权重为0)

2.2 二维

图2(a)为 33的普通卷积,感受野为 33
  (b)为 33+dilation=2 的空洞卷积,感受野为 77
  (c)为 33+dilation=4的空洞卷积感受野为 1515
感受野的计算公式为 Fi+1=(2i+21)x(2i+21)

卷积核的参数个数保持不变,感受野的大小随着“dilation rate”参数的增加呈指数增长

2.3应用:

简要地说明Dilated Convolution应用到MULTI -SCALE CONTEXT AGGREGATION中。

Layer为层数,Convolution为卷积核大小,Dilation为l大小,Truncation为图像是否要裁剪边缘(Dilated Convolution卷积后图像会变大),Receptive field为感知区域大小,Output channels为输出特征图数量,Basic为简单网络情况,Large为复杂网络情况。 
表格中可以发现, 
1.网络中并没有Pooling层,这就是作者提出不丢失像素的计算方法。 

2.第一层对图像进行卷积,第二层对第一层输出的特征图进行卷积,如此循环到最后一层。

3.Dilation倍数从小到大,说明先使用小感知区域的卷积核获取局部特征,再用大感知区域的卷积核把特征分到更多区域中。

3 动图表示过程(动图见网址:https://www.zhihu.com/question/54149221)


           Standard Convolution with a 3 x 3 kernel (and padding)

Dilated Convolution with a 3 x 3 kernel and dilation rate 2

本节重点:特征图是输入图与卷积核做运算产生的,而带洞卷积是卷积核带洞,洞的部分tf自动用0填充,tf中卷积核自动初始化。eg:

def conv2d(x,w):

          return tf.nn.conv2d(x,W,strides[1,1,1,1],padding='SAME')#x表示输入的图像。W是卷积的参数比如[5,5,1,32],前两个参数代表卷积核的尺寸,第三个参数代表有多少个channel,最后一个参数代表卷积核的数量,Same代表给边界加上Padding,


笔记:

4 优点及应用:

   扩展卷积在保持参数个数不变的情况下增大了卷积核的感受野,同时它可以保证输出的特征映射(feature map)的大小保持不变。一个扩张率为2的3×3卷积核,感受野与5×5的卷积核相同,但参数数量仅为9个,是5×5卷积参数数量的36%扩张卷积在图像分割、语音合成、机器翻译、目标检测中都有应用。


  • 1
    点赞
  • 6
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值