特殊的卷积形式

1x1卷积

卷积核大小为1x1;功能为:信息聚合(线性加权),同时增加非线性(激活函数)。还有用于通道数的变换,可以增加或者减少输出特征图的通道数。

 转置卷积

转置卷积通常在语义切割任务中,语义切割就是对像素进行分类:

转置卷积,假设输入为2x2,卷积核大小为3x3,转置卷积相当于自动补充了padding=2,然后再进行标准卷积,输出为4x4,。转置卷积可以设置padding和stride,如果设置了p,那么填充的0为k-1-p层,如果设置了s,那么就在卷积元素之间插入s-1个0。如下图:

转置卷积后输出的维度:

 空洞卷积

通过在卷积核元素之间插入空格来扩张卷积核,插入多少的控制由孔洞率r来决定,在元素中间插入r-1个0,因此空洞卷积大小变为。由于卷积核变大,感受野也变大。不增加参数数量而快速扩大感受野的有效方式,以获得更多的局部信息。

 

分组卷积

分组卷积顾名思义就是,将卷积分组,很容易理解。

 上面把卷积核的深度切割了,对应的输入的深度也要切割,不一定要对半切。然后对应输出的深度,就需要多少个卷积核。

深度可分离卷积

深度可分离卷积由分组卷积而来,假设,分组卷积中每组只有单个(C2/g=1)一层 (C1/g=1) 卷积,这个时候,进行卷积,通道之间的信息是没有融合的,卷积过后想要融合,就要加上一个1x1的卷积来增加通道间的信息。

因此,深度可分离卷积由一个分组卷积(单层)以及一个1x1卷积构成。

相比较于标准卷积,减少了参数量,因为只有一个卷积了,以及降低了计算量,提高了运算效率。当然速度的提升,也意味着精度的减少。因此,这类卷积通常应用在有速度要求的卷积结构中,例如,MobileNet、ShuffleNet等模型。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值