本章节,花费了3天时间,学习了基于MobileNetv2网络的垃圾分类模型。
在MobileNetV2模型中学习了倒残差结构(Inverted residual block)与线性瓶颈结构(Linear Bottlenecks)
倒残差结构
残差模块
(1) 整个过程为 “压缩 - 卷积 - 扩张”,呈沙漏型;
(2) 卷积操作为:卷积降维 (1×1) - 标准卷积提取特征 (3×3) - 卷积升维 (1×1);
(3) 统一使用 ReLU 激活函数;
倒残差模块
(1) 整个过程为 “扩展- 卷积 - 压缩”,呈梭型;
(2) 卷积操作为:卷积升维 (1×1) - DW卷积提取特征 (3×3) - 卷积降维 (1×1);
(3) 使用 ReLU6 激活函数和线性激活函数。
线性瓶颈结构
瓶颈结构是指将高维空间映射到低维空间,缩减通道数;Expansion layer 则相反,其将低维空间映射到高维空间,增加通道数。沙漏型结构和梭型结构,都可看做是一个 Expansion layer 和一个 Bottleneck layer 的组合。Bottleneck layer 和 Expansion layer 本质上体现的都是1x1 卷积的妙用。至于线性瓶颈结构,就是末层卷积使用线性激活的瓶颈结构(将 ReLU 函数替换为线性函数)。