1 普通卷积
一般就是所有通道进行计算,然后汇聚到同一个通道
2 组卷积
优势是可以减少参数量,但是group大小的选择是一个有挑战性的任务
3 深度可分离卷积
对每一个通道进行不同大小卷积核的操作。目的是为了将通道相关性和平面空间维度相关性进行解耦。
在操作的时候一般是要指定每一个通道对应几个类型的卷积核,k可以通过out-ch/in_ch计算得出。在实际的操作中,将nn.conv2d中的groups参数写为in_ch数字就可以。
4 空洞卷积
其实就是相当于卷积核中的数字不再紧密的连在一起,而是中间会加入一些0。比如33的2空洞卷积,其实对应的感受野应该是77,在世纪的操作中,是设置nn.conv2d的dialation参数,默认是1,代表普通卷积。
Efficient Net,有MBconv 块组成