本文汇总一些阅读过的轻量级语义分割模型相关论文,并记录一些心得感想。
ShuffleNet (V1)
上古的经典文献。主要贡献是提出pointwise group convolution和channel shuffle两种操作。文章的 motivation 有两方面:
(1)现有方法未充分考虑1x1卷积的计算量,往往仅对3x3以上卷积使用group conv。
(2)仅用分组卷积无法实现分组间的信息交换。
针对第一个 motivation,文章提出使用 pointwise group conv 以减少 1x1 卷积的计算开销。针对第二个 motivation,文章提出一种创新的 channel shuffle 操作,以分组卷积+打乱通道顺序的方式实现通道间的信息提取与交互。
channel shuffle 的示意图如下图所示,不同颜色代表不同分组的特征(通过卷积,每个分组内的特征是可以有信息交互的),经过先分组卷积、再通道乱序、再接着后续的分组卷积的操作,不同分组(不同颜色)的特征也可以得到信息交互。需要注意的是,这里的 shuffle 不同于在 Python 编程时常用的random.shuffle
,打乱通道的顺序是事先设定好的,而不是随机的。从这点来说&#