MobileNet-v3详解

论文：《Searching for MobileNetV3》
论文链接：https://arxiv.org/abs/1905.02244v2
前文链接：SENet详解、MobileNet-v1详解、MobileNet-v2详解

■ 概述

       MobileNetV3发表于2019年，该V3版本结合了V1的深度可分离卷积、V2的Inverted Residuals和Linear Bottleneck以及SE Block，利用NAS（神经结构搜索）来搜索网络的配置和参数（关于V1、V2以及SE Block可以参考我的其他文章，链接已放到文章开头）。MobileNetV3提供了两个版本：MobileNetV3-Small 与 MobileNetV3-Large ，分别对应对计算和存储要求低和高的版本。同时，提出了一种新的高效分割解码器Lite reduce Atrous Spatial Pyramid Pooling (LR-ASPP)

h-swish激活函数

       Swish 激活函数已经被证明是一种比 ReLU 更佳的激活函数，但是相比 ReLU，它的计 算更复杂，因为有 sigmoid 函数。为了能够在移动设备上应用 swish 并降低它的计算开销， 提出了 h-swish。

● swish 激活函数：

● h-swish 激活函数：

● 图像