Mobilnetv1和mobilnetV2

1、Mobilnetv1原理

MobileNet是针对移动端优化的卷积，所以当需要压缩模型时，可以考虑使用MobileNet替换卷积。下面我们开始学习MobileNet原理。

1 对比普通卷积和MobileNet原理

MobileNet是用于替换普通卷积，相比普通卷积，MobileNet参数更少，计算速度更快。我们先看一下输入为(h=12,w=12,c=4)，卷积为3*3，输出为（h=12,w=12,c=2）前向计算中，普通卷积的参数量、乘法计算次数。普通卷积如下图所示： 

从上图可以很简单的计算到，普通卷积参数总数为72个，需要做10368次乘法计算。

相比普通卷积，MobileNet采用的方法是，将卷积分解为2个操作：depthwise和pointwise。pointwise比较容易理解，就是普通的卷积核为1*1的卷积。depthwise采用的方法不是普通卷积方式，我们知道，对于输入通道数为4的feature map在计算卷积时，输出的每个通道都需要对应4个3*3卷积核参数。这一步是最主要的耗时，为了提升计算速度，MobileNet把每个输入feature map对应一个3*3卷积核，输出通道数不变，即为4。而真正对通道数做改变的是在pointwise，也就是1*1的卷积

下面图很清晰的理解mobilenet原理：

 从上图可以很简单的计算到，普通卷积参数总数为44个，需要做6336次乘法计算。可以看到，mobilenet的参数和乘法计算次数明显比普通卷积要小。这还仅仅是我列举的简单例子，在实际网络中，几十层的网络很常见，feature map也是远远大于12*12*4。根据我的经验，普通100M的网络模型，将所有卷积替换成mobilenet后，能降到20M以下，计算速度更是不在一个量级。

原文：https://blog.csdn.net/huachao1001/article/details/79171447