Group Convolution
若卷积神将网络的上一层有N个卷积核,则对应的通道数也为N。设群数目为M,在进行卷积操作的时候,将通道分成M份,每个group对应N/M个通道,然后每个group卷积完成后输出叠在一起,作为当前层的输出通道。
Group convolution 卷积只能在同一组进行吗?
group conv本身应该就大大减少了参数,比如当input channel为256,output channel也为256,kernel size为3x3,不做 group conv参数为256x3x3x256*,*若group为8,每个group的input channel和output channel均为32,参数为8x32x3x3x32,是原来的八分之一。 分组卷积最后每一组输出的feature maps应该是以concatenate的方式组合,而不是element-wise add,所以每组输出的channel是 input channels / groups,这样参数量就大大减少了。