[读书笔记] MobileNet v1与v2读书笔记

MobileNets：用于移动视觉应用的高效卷积神经网络
论文地址：https://arxiv.org/pdf/1704.04861.pdf

本文主要贡献：

• 设计了适合移动和嵌入式设备的有效模型
• 设计了两个超参数用于调节性能与参数和计算复杂度之间的平衡

结构介绍

核心思路是深度可分离卷积，即将一个常规卷积用一个空间卷积和一个点卷积代替，以减少网络参数与计算次数。

常规卷积的参数数量为

$$D_K\cdot D_K\cdot M\cdot N\cdot D_F\cdot D_F$$
深度可分离卷积参数数量为
$$D_K\cdot D_K\cdot M\cdot D_F\cdot D_F+M\cdot N\cdot D_F\cdot D_F$$

实际网络结构

-

MobileNetV2：反向残差和线性瓶颈

本文主要贡献：

• 在MobileNet v1块的基础上增加了一个1*1的卷积层，作为MobileNet v2块
• 增加了与ResNet相似的残差连接
• 将块与块之间的RELU6操作改为了线性操作
• 改进了存储方式以占用更小的内存