MobileNet论文记录

在开始论文记录之前介绍一点小的知识点：假设卷积核大小为Kn * Kw，输入通道为Cin，输出通道为Cout，输出特征图的宽和高为W，H。
Conv标准卷积层：参数数量：Kn *Kw * Cin * Cout
理论计算量：Kn * Kw * Cin * Cout * W * H
FC全连接层：参数数量：Cin * Cout
理论计算量：Cin * Cout

摘要介绍

高效的卷积神经网络的移动视觉应用程序。一类有效的模型是移动和嵌入式视觉应用的移动网络。MobileNet基于流线型架构，使用深度可分卷积网络来建立轻量级深度神经网络。使用两个简单的全局超参数，有效地权衡延迟和准确性。建立小型有效的网络有许多方法，不同的方法大致分为压缩预训练网络和直接训练小网络。
本文提出的网络体系结构，允许模型开发人员为其应用程序选择与资源限制（大小，延迟）匹配的小型网络，MobileNet主要关注优化延迟，但是也产生小网络。但是，它们的目标在保持模型性能的前提下降低模型大小，同时提升模型速度。MobileNet属于直接设计小模型并训练。

Depthwise separable convolution

MobileNet的基本单元是深度可分离卷积，深度可分卷积其实是一种可分解卷积操作，可以将它分成两个更小的操作，深度卷积和点卷积。深度卷积核标准卷积不同，对于标准卷积的卷积核是用在所有输入通道上，而深度卷积针对每个输入通道采用不同的卷积核，就是说一个卷积核对应一个输入通道。点卷积就是普通卷积