Mobilenet 网络结构-Depthwise Separable Convoltion

1）常规卷积运算

假设输入层为一个大小为64×64 像素，三通道的彩色图片。经过一个包含4个filter 的卷积层，最终输出4个Feature Map，并且尺寸与输入层相同。

此时卷积层共4个filter，每个filter 包含3个kernel，每个kernel的大小为3×3,因此卷积层的参数量如下计算：

N_std=4×3×3×3×3=108

2 Separable Convolution 

核心思想是将一个完整的卷积运算分解为两步，分别为Depthwise Convolution 与Pointwise Convolution

2.1 Depthwise Convolution

一个大小为64×64 像素，三通道彩色图片首次经过第一次卷积运算，不同之处在此次的卷积完全是在二维平面内进行，且filter的数量与上一层的Depth 相同，所以一个三通道的图像经过运算后生成了3个Feature map，如下图：

其中一个filter 只包含一个大小为3×3 的Kernel，卷积部分的参数个数计算如下：

N_depthwise=3*3*3=27

Depthwise Convolution 完成后的Feature map 数量和输入层的depth 相同，但是 这种运算对输入层的每个channel 独立进行卷积运算后就结束了，没有有效的利用不同map 在相同空间位置上的信息。因此需要增加另外一步操作来将这些map 进行组合成新的Feature map，即接下来的Pointwise Convolution。

2.2 Pointwise Convolution 

Pointwise Convolution 的运算与常规卷积运算很相似，不同之处在于卷积核的尺寸为1×1×M，M 为上一层的depth，所以这里的卷积运算会将上一步的map 在深度方向上进行加权组合，生成新的Feature map。有几个Filter 就会有几个Feature map，如下图所示。

、由于采用的是1×1 卷积的方式，此步中卷积涉及到参数个数可以计算为：

N_pointwise=1×1×3×4=12

经过Pointwise Convolution 之后，同样输出了 4 张Feature map，与常规卷积的输出维度相同。

参数对比： 常规参数个数：

N_std=4×3×3×3=108

Separable Convolution 的参数由两部分相加得到

N_depthwise=3*3*3+1*1*3*4 =12

相同的输入，同样是得到4张Featur map，Separable Convolution 的参数个数是常规卷积的1/3。因此在参数量相同的前提下，采用Separable Convolution 的神经网络层数可以做的更深。

 

 

 

ref:https://blog.csdn.net/c20081052/article/details/80703896