【论文详解】MobileNet_v3(2019)

1 论文信息

题目：Searching for MobileNetV3
代码：TF复现，PyTorch复现

2 简介

MobileNet_v3是Google推出的轻量级网络Mobilenet的第三版，主要创新在于网络结构的改进与网络搜索技巧的组合。

3 创新点

3.1 网络搜索技巧

一方面，利用NAS技巧进行模块化搜索，大致确定大体地网络结构；另一方面，借助NetAdapt技巧进行局部搜索，确定各滤波器的通道数等网络细节。

3.2 网络结构改进

1.SE结构
如下图所示，在MobileNet_v2结构基础上，加入SE结构。

2.尾部结构
如下图所示，与MobileNet_v2尾部结构相比，省去了三个参数量较大的卷积层，将平均池化层前移。

3.h-swish
提出了效率更高的h-swish激活函数，公式如下。

4.网络结构
如下图所示，MobileNet_v3分为两种结构：MobileNetV3-Large和MobileNetV3-Small，分别使用不同的应用场景。

4 性能