深度可分离卷积神经网络和标准卷积神经网络

深度可分离卷积神经网络是有moblieNet引出来的概念。

mobileNet是为了在手机等嵌入式上可以运行计算所提出的一种卷积神经网络。这种网络的特点是参数量少，对硬件资源要求相对低。

参数量少是因为使用了深度可卷积神经网络代替了标准卷积神经网络。

虽然计算量降低了，但是同时准确性也降低了。这是在准确性和计算量之间的中庸之道。

深度可分离神经网络为什么会大大降低计算量，同时又使准确性降低在可接受范围之内呢？

1、首先要明白深度可分离卷积神经网络和标准卷积神经网络的计算方式的区别。

深度可分离卷积神经网络：

深度卷积+逐点卷积

深度卷积：

所谓的深度也就是图像的通道数，针对每个通道使用一个卷积核，每个卷积核卷积完成后会产生一个featuremap。

逐点卷积：

实际上采用的是1*1*3的标准卷积核，N个这样的卷积核对上面的featuremap进行卷积操作后，得到了新的N个featuremap。

 

标准卷积神经网络：

一个卷积核在进行卷积操作时，所有的通道都要管。N个这样的卷积核对输入图像进行卷积后，产生N个featureamp。

 

明白了上述操作之后，就可以计算参数数量了：

其中深度可分离卷积神经网络：Wk*Hk*Dk==3 + Wk==1*Hk==1*Dk==N

标准卷积神经网络：Wk*Hk*Dk*N