本文探讨了卷积神经网络中的基础卷积模块和各种变体，包括标准卷积、分组卷积、深度wise卷积、点wise卷积、深度wise分离卷积以及通道shuffle。通过分析计算量和输入输出连通性，解释了MobileNet和ShuffleNet等模型速度优势的原因。同时，还介绍了ResNet的残差块和ResNeXt、Squeeze-and-Excitation (SE) Block等结构，解析了这些变体在网络性能提升中的作用。
- Why MobileNet and Its Variants (e.g. ShuffleNet) Are Fast文章通过输入与输出连通性的角度直观上分析了不同卷积模式计算量的改变情况。
基础卷积模块
- standard convolution
标准卷积的计算量为HWNK²M，可以分为3部分
(1) the spatial size of the input feature map HxW,
(2) the size of convolution kernel K²
(3) the numbers of input and output channels NxM.
- group convolution
最低0.47元/天 解锁文章
扫一扫
1万+
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
