[论文笔记] MobileNet

作者团队：谷歌
关注点：同时优化网络模型的速度与大小

related works

A1、网络受depth wise seperable convolution (在Inception、Xception中也有用到)的启发
A2、factorized network
A3、Squeezenet使用到了bottleneck的方法
B1、对预训练网络的shrinking、factorizing以及compressing（涉及乘积量化、哈希、减枝、向量量化、霍夫编码等）
B2、distillation，大型网络teach小网络
B3、low bit network

模型结构

1、depth wise seperable convolution

将标准卷积分解成为depthwise convolution和pointwise convolution。类似的分解卷积的方法之前也接触过，在学习数字图像处理时，将二维卷积核分解成两个一维卷积核能够减少计算量与参数量。

假设标准卷积的输入为$D_F\times D_F\times M$，输出为$D_F\times D_F\times N$，由上图，则标准卷积的参数量为$D_K\cdot D_K\cdot M\cdot N$,计算量为$D_K\cdot D_K\cdot M\cdot N\cdot D_F\cdot D_F$
depthwise seperable convolution 的参数量为$D_K\cdot D_K\cdot M+M\cdot N$，计算量为：$D_K\cdot D_K\cdot M\cdot D_F\cdot D_F+M\cdot N\cdot D_F\cdot D_F$
那么，depthwise separable 与标准卷积参数量之比为
$$\frac{Para{m}_{dws}}{Para{m}_{sta}}=\frac{D_K\cdot D_K\cdot M+M\cdot N}{D_K\cdot D_K\cdot M\cdot N}=\frac{1}{N}+\frac{1}{D_K^2}$$
depthwise separable 与标准卷积计算量之比为
$$\frac{Para{m}_{dws}}{Para{m}_{sta}}=\frac{D_K\cdot D_K\cdot M\cdot D_F\cdot D_F+M\cdot N\cdot D_F\cdot D_F}{D_K\cdot D_K\cdot M\cdot N\cdot D_F\cdot D_F}=\frac{1}{N}+\frac{1}{D_K^2}$$
标准卷积与depthwise seperable conv的结构：

2、shrinking hyperparameters：width multiplier、resolution multiplier

width multiplier：添加超参$\alpha$，改变通道数，原来的输入通道数$M$变为$\alpha M$,输出通道数$N$变为$\alpha N$。这样使得计算量之比变为$\frac{\alpha }{N}+\frac{{\alpha }^2}{D_K^2}$，参数量约减少为原来的${\alpha }^2$
resolution multiplier：添加超参$\rho$，改变图像大小，原本的边长$D_F$变为$\rho D_F$，这样使得计算量之比变为$\frac{\alpha {\rho }^2}{N}+\frac{{\alpha }^2{\rho }^2}{D_K^2}$，参数量约减少为原来的${\alpha }^2{\rho }^2$

分类精度-计算量：对数线性关系

分类精度-参数量

3、具体网络结构

网络结构以及每层的卷积核设置

不同类型卷积层的计算量以及参数量如下：

这里发现的问题是$1\times 1$卷积在整个网络中所占用的计算量以及参数量均为最大。这里的坑之后由ShuffleNet填上。