1 论文信息
题目: MobileNetV2: Inverted Residuals and Linear Bottlenecks
代码:TF复现,PyTorch复现
2 简介
Mobilenet-v2是Mobilenet-v1的改进版,主要创新点在于反转残差与线性瓶颈。
3 创新点
3.1 反转残差
如下图所示,传统残差块有大量通道,而反转残差连接瓶颈。
3.2 线性瓶颈
如下图所示,层激活输入图像形成“感兴趣流形”,其可嵌入低维子空间中。
因此,假设感兴趣流形是地低维的,可通过将线性瓶颈层插入卷积块来捕获。
其与反转残差形成了一个新的层模块:将低维压缩表示作为输入,先将其扩展为高维并使用轻量级沿深度卷积进行滤波,然后通过线性卷积将特征投射到低维表示,如下图所示。
3.3 网络架构
如下图所示,MobileNet-v2由17个基本构建块组成,其后是常规的1x1卷积,平均池化层和分类层;扩展因子为6;所有空间卷积核大小为3x3.