在开始论文记录之前介绍一点小的知识点:假设卷积核大小为Kn * Kw,输入通道为Cin,输出通道为Cout,输出特征图的宽和高为W,H。
Conv标准卷积层:参数数量:Kn *Kw * Cin * Cout
理论计算量:Kn * Kw * Cin * Cout * W * H
FC全连接层:参数数量:Cin * Cout
理论计算量:Cin * Cout
摘要介绍
高效的卷积神经网络的移动视觉应用程序。一类有效的模型是移动和嵌入式视觉应用的移动网络。MobileNet基于流线型架构,使用深度可分卷积网络来建立轻量级深度神经网络。使用两个简单的全局超参数,有效地权衡延迟和准确性。建立小型有效的网络有许多方法,不同的方法大致分为压缩预训练网络和直接训练小网络。
本文提出的网络体系结构,允许模型开发人员为其应用程序选择与资源限制(大小,延迟)匹配的小型网络,MobileNet主要关注优化延迟,但是也产生小网络。但是,它们的目标在保持模型性能的前提下降低模型大小,同时提升模型速度。MobileNet属于直接设计小模型并训练。
Depthwise separable convolution
MobileNet的基本单元是深度可分离卷积,深度可分卷积其实是一种可分解卷积操作,可以将它分成两个更小的操作,深度卷积和点卷积。深度卷积核标准卷积不同,对于标准卷积的卷积核是用在所有输入通道上,而深度卷积针对每个输入通道采用不同的卷积核,就是说一个卷积核对应一个输入通道。点卷积就是普通卷积