1、空洞卷积Dilated /Atrous convolution: 空洞卷积诞生于图像分割领域,图像输入到网络中经过CNNCNN提取特征,再经过poolingpooling降低图像尺度的同时增大感受野。由于图像分割是pixel−wisepixel−wise预测输出,所以还需要通过upsampling将变小的图像恢复到原始大小。图像分割FCNFCN有两个关键步骤:池化操作增大感受野,upsampling操作扩大图像尺寸。
技巧:
-
卷积核方面:
-
大卷积核用多个小卷积核代替;
-
单一尺寸卷积核用多尺寸卷积核代替;多个并行,与Inception类似
-
固定形状卷积核趋于使用可变形卷积核;
-
使用1×1卷积核(bottleneck结构)。
-
卷积层通道方面:
-
标准卷积用depthwise卷积代替;
-
使用分组卷积;
-
分组卷积前使用channel shuffle;
-
通道加权计算。
-
卷积层连接方面:
-
使用skip connection,让模型更深;
-
densely connection,使每一层都融合上其它层的特征输出启发
2、感受野的计算:从后往前推,
RF = 1
fo