轻量级网络MobileNet

MobileNet系列作为轻量级网络的经典代表，使得CNN轻量化和移动端部署成为可能。它进行卷积的参数比标准卷积要少很多。MobileNet系列目前总共有三个版本， 分别是MobileNet v1、MobileNet v2和MobileNet v3。作为学习轻量化网络的必经之路，本文重点对MobileNet系列网络进行阐述。

MobileNetV1

MobileNet就是把VGG中的标准卷积层换成深度可分离卷积就可以了，可分离卷积主要有两种类型，空间可分离和深度可分离卷积。空间可分离就是将一个大的卷积核变成两个小的卷积核，比如将一个3x3的核分成一个3x1和一个1x3的核。深度可分离卷积就是将普通卷积拆分成为一个深度卷积和一个逐点卷积。逐点卷积就是1×1卷积。主要作用就是对特征图进行升维和降维。下图分别是VGG和MobileNet v1 一个卷积块所包含的网络层。

 可以看到，VGG的卷积块就是一个常规3*3卷积和一个BN、一个ReLU激活层。MobileNet v1则是一个3*3深度可分离卷积和一个1*1卷积，后面分别跟着一个BN和ReLU层。MobileNet v1的ReLU指的是ReLU6，区别于ReLU的是对激活输出做了一个clip，使得最大最输出值不超过6，这么做的目的是为了防止过大的激活输出值带来较大的精度损失。BN 表示批量正则化，ReLU 表示激活函数。

ReLU和ReLU6

 ReLU6就是普通的ReLU但是限制最大输出值为6（对输出值做clip），这是为了在移动端设备float16的低精度的时候，也能有很好的数值分辨率，如果对ReLU的激活范围不加限制，输出范围为0到正无穷，如果激活值非常大，分布在一个很大的范围内，则低精度的float16无法很好地精确描述如此大范围的数值，带来精度损失。

上图左边是普通的ReLU，对于大于0的值不进行处理，右边是ReLU6，当输入的值大于6的时候，返回6，relu6“具有一个边界”。作者认为ReLU6作为非线性激活函数，在低精度计算下具有更强的鲁棒性.

MobileNetV2

MobileNet v2是在v1基础上的改进与优化版本。MobileNet v1的特色就是深度可分离卷积，但研究人员发现深度可分离卷积中有大量卷积核为0，即有很多卷积核没有参与实际计算。是什么原因造成的呢？v2的作者发现是ReLU激活函数的问题，认为ReLU这个激活函数，在低维空间运算中会损失很多信息，而在高维空间中会保留较多有用信息。

既然如此，v2的解决方案也很简单，就是直接将ReLU6激活换成线性激活函数，当然也不是全都换，只是将最后一层的ReLU换成线性函数。具体到v2网络中就是将最后的Point-Wise卷积的ReLU6都换成线性函数。v2给这个操作命名为linear bottleneck，这也是v2网络的第一个关键点。

深度卷积（Depth-Wise）本身没有改变通道的作用，比如本文前例中的深度可分离卷积的例子，在前一半的深度卷积操作中，输入是3个通道，输出还是3个通道。所以为了能让深度卷积能在高维上工作，v2提出在深度卷积之前加一个扩充通道的卷积操作，什么操作能给通道升维呢？当然是1*1卷积了。

 这种在深度卷积之前扩充通道的操作在v2中被称作Expansion layer。这也是v2网络的第二个关键点。

MobileNet v1虽然加了深度可分离卷积，但网络主体仍然是VGG的直筒型结构。所以v2网络的第三个大的关键点就是借鉴了ResNet的残差结构，在v1网络结构基础上加入了跳跃连接。相较于ResNet的残差块结构，v2给这种结构命名为Inverted resdiual block，即倒残差块。与ResNet相比，我们来仔细看一下“倒”在哪。

 从图中可以看到：

ResNet是先0.25倍降维，然后标准3*3卷积，再升维，

MobileNet v2则是先6倍升维，然后深度可分离卷积，最后再降维。

更形象一点我们可以这么画：

 MobileNet v2的维度升降顺序与ResNet完全相反，所以才叫倒残差。

综合上述三个关键点：Linear Bottlenecks、Expansion layer和Inverted resdiual之后就组成了MobileNet v2的block，如下图所示：

 MobileNet v2的网络结构如下图所示：

可以看到，输入经过一个常规卷积之后，v2网络紧接着加了7个bottleneck block层，然后再两个1*1卷积和一个7*7的平均池化的组合操作。

MobileNet v3

 MobileNet v3同样是由谷歌于于2019年提出新版本的MobileNet。在v2网络的基础上，v3提出了四个大的改进措施。

• 使用NAS神经架构搜索确定网络结构

• 在v2的block基础上引入Squeeze and Excitation结构

• 使用h-swish激活函数

• 对v2网络尾部结构进行改进

总结

最后一句话对MobileNet系列做个简单的总结，MobileNet v1就是加了深度可分离卷积的VGG；MobileNet v2则是在v1基础上加了Linear激活、Expansion layer和Inverted residual三大关键操作；而v3则是在v2基础上引入NAS，并且加入Squeeze and Excitation结构、h-swish激活和网络尾部优化等改进措施。