通俗理解分组卷积

顾名思义

分组卷积(Group Convolution)顾名思义,在对特征图进行卷积的时候,首先对特征图分组再卷积。如下图所示:
在这里插入图片描述

这样做有啥作用呢?

  1. 减少参数量,分成G组,则该层的参数量减为原来的1/G。
    feature map尺寸为CiHW,常规卷积的参数量是Ci*H*W*Co;
    分G组的分组卷积参数量是(Ci/G)*H*W*(Co/G)*G=(Ci*H*W*Co)/G;可以自己举一个简单的例子试一试。
  2. 分组卷积可以看做是对原来的特征图进行了一个dropout,有正则的效果。
  3. 如果分组的数量等于特征图通道的的数量,这样卷积就是在二维的平面进行,一个卷积核对应一个通道,这样就变成深度可分离卷积(Depthwise Convolution),见MobileNet和Xception等,参数量进一步缩减。
  4. 更进一步,如果在上一步的基础上将卷积核的大小设置为和特征图一样大,此时称为全局深度可分离卷积(Global Depthwise Convolution),见MobileFaceNet;可以看成全局加权池化(可以代替全连接层,并且相较于全连接层,有少参数、防过拟合优点)

参考

Group Convolution分组卷积,以及Depthwise Convolution和Global Depthwise Convolution

  • 6
    点赞
  • 6
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值