MobileNet浅析

论文链接：https://arxiv.org/pdf/1704.04861.pdf
MobileNet的主要目的是：减少模型参数量，文章中引入了两个超参使得可以根据应用的设备来调整模型的大小
MobileNet的实现方式是：通过逐层分离加深卷积深度减少深度神经网络参数

MobileNet是一种通过逐层分离加深卷积深度减少深度神经网络参数的流式结构，文章中引入了两个全局超参有效地平衡了准确率和延时。

MobileNet将一个标准卷积层分解成两个卷积层(深度卷积和逐点卷积)，分别代表标准卷积的滤波器过滤和结合两个步骤。

网络结构变化前后如下图所示

举例：input layer输入为14×14×512 ,kernel大小为3×3×512×512,其中(3×3×512指的是512个通道，每个通道一个3×3的卷积核，每个卷积核的参数是不同的，最后的512表示每个通道有512个不同的卷积核)，stride =1,padding 0
参数量的变化：
标准卷积模型参数量为3×3×512(channel数)×512(每个channel卷积核个数)=2359296~2.36million
分离后的卷积模型参数量为3×3×512(channel数)+1×1×512(channel数)×512(每个channel卷积核个数)=266752~0.27millio