论文记录_MobileNets Efficient Convolutional Neural Networks for Mobile Vision Application

• 本文个人博客地址：点击查看
• Tensorflow 中的实现：点击查看
• Caffe 中的实现：点击查看

1、概述

• Google在2017年提出的适用于手机端的神经网络模型
• 主要使用了深度可分离卷积Depthwise Separable Convolution 将卷积核进行分解计算来减少计算量
• 引入了两个超参数减少参数量和计算量
  
  • 宽度乘数（Width Multiplier）: [减少输入和输出的 channels ]
  • 分辨率乘数（Resolution Multiplier）：[减少输入输出的 feature maps 的大小]

2、深度可分离卷积（Depthwise Separable Convolution）

• 可以将一个标准卷积核分成一个深度卷积depthwise convolution 和 一个1X1的卷积（叫作逐点卷积pointwise convolution）。如下图所示

2.1 标准卷积

• 标准的卷积层是将维度为$D_F \times D_F \times M$的输入层转化为维度为$D_G \times D_G \times N$ [ 上篇论文中也有提到]
  
  • $D_F$ 是输入feature map的长和宽，M 是输入的通道数（channels）
  • $D_G$ 是输出feature map的长和宽，N 是输出的通道数
• 假设卷积核filter的大小是$D_k \times D_k$，则标准卷积的计算量是
  D k ⋅D k ⋅M