卷积的变种之分组卷积

分组卷积

介绍

分组卷积最初是在AlexNet网络中出现的，主要为了解决单个GPU无法处理含有大量计算量和存储需求的卷积层这个问题。目前，分组卷积多被用于构建用于移动设备的小型网络模型。例如深度可分离卷积。

原理

在介绍原理之前，需要放上一张经典的图示（图片来源）。

其中，最上面的是传统卷积操作的示意图，下面的是分组卷积操作的示意图。

对分组卷积操作的说明：
既然是分组卷积，肯定是需要对输入特征图进行分组，例如：

• 将输入特征图根据通道数分成g组，则每组输入特征图的尺寸为 $HW(c_1/g)$。
• 对应的卷积核大小为$h_1{w}_1(c_1/g)$，每组输出特征图尺寸为$HW(c_2/g)$。
• 对g组的结果进行拼接，得到最终的输出特征图尺寸$HW{c}_2$。
  参数量：
  $h_1{w}_1(c_1/g)(c_2/g)g=h_1{w}_1{c}_1{c}_2(1/g)$，可见分组卷积的参数量是标准卷积的$1/g$