浅析轻量化网络mobilenet

论文地址：https://arxiv.org/abs/1704.04861；https://arxiv.org/abs/1704.04861

       1.背景

         MobileNet是轻量化网络的代表之作，与VGG16相比，其准确率下降了0.9%，而参数大大降低，接近1/32，使其在移动端部署成为可能。以MobileNet为代表的网络,可以在移动终端实现众多的应用，包括目标检测，目标分类，人脸属性识别和人脸识别等,使移动终端、嵌入式设备运行神经网络模型成为可能 以MobileNet为代表的网络，可以在移动终端实现众多的应用，包括目标检测，目标分类，人脸属性识别和人脸识别等，使移动终端、嵌入式设备运行神经网络模型成为可能

        在更小结构（引入两个超参数）的MobileNet中,在参数量减少了四十多倍的条件下，性能超越了Alexnet，accuracy达到60.2%,体现了本文方法的高效性。 在更小结构的MobileNet中，体现了本文方法的高效性。

 2.MobileNet网络结构

一共28层（不加入Avgpool 和 softMax层），13x2 +1+1 = 28；

 2.1 深度可分离卷积

        深度可分离卷积 （DSC）= 深度卷积（DW）+ 逐点卷积（PW）；其中，深度卷积是指对每个输入通道采用不同的卷积核，例如，我们输入图像是RGB三通道，此时就有3个卷积核与之一一对应。；而PW卷积其实和普通的卷积一摸一样，只不过卷积核大小为1x1。

         如图一，是一个标准的普通的普通卷积层，它是由一个3x3卷积+一个批量归一化+一个ReLU，图二是个深度可分离卷积层，它是由一个3x3的深度卷积层+BN+ReLU+DW卷积+BN+ReLU，这是一个标准的深度可分离卷积层，也就是DSC = DW+PW。

2.2 mobilenet超参数

超参数有两个，一个是宽度超参数，一个是分辨率超参数，目的是可以适应更小的模型，消耗更小的算力。