论文阅读笔记:MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications
论文下载地址:MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications
TensorFlow实现
caffe实现
本文主要包含如下内容:
核心思想
MobileNets其实就是Exception思想的应用。区别就是Exception文章重点在提高精度,而MobileNets重点在压缩模型,同时保证精度。
网络结构
Depthwise Separable Convolution
,就是将传统的卷积拆分为两个级联的卷积:depthwise convolutions
和pointwise convolution
。深度卷积将每个卷积核应用到每一个通道,通过1 × 1卷积用来组合通道卷积的输出。
depthwise separable convolutions
在模型大小上和模型计算量上都进行了大量的压缩,使得模型速度快,计算开销少,准确性好。
除了最后的全连接层,所有层后面跟了batchnorm和ReLU,最终输入到softmax进行分类。
实验结果
增加了一个超参数 α∈[0,1] 来控制feature map的通道数,alpha 越小,则模型越小。作用是改变输入输出通道数,减少特征图数量,让网络变瘦
增加了一个超参数 ρ 来控制输入图像的分辨率,ρ 越小,则输入图像越小。