常见的变体卷积

这篇文章可能会慢慢写一段时间，旨在学习常见的变体卷积，以及深入学习卷积的底层实现原理。

一、分组卷积（Group Convolution）

二、空洞卷积（Dilated Convolution）

简单理解空洞卷积

三、可形变卷积（Deformable Convolution）

四、条件卷积

五、自适应卷积（SCConv）

Liu J J, Hou Q, Cheng M M, et al. Improving convolutional networks with self-calibrated convolutions[C]//Proceedings of the IEEE/CVF conference on computer vision and pattern recognition. 2020: 10096-10105.

一、结构

• 简单说明：
  $C\ast H\ast W$的特征图被分成两个$\frac{C}{2}\ast H\ast W$的特征图。一部分进行常规的conv的操作。另一部分通过下采样特征提取、自连接等操作，扩大感受视野、捕捉自注意力权重。
• 参数量计算：
  $\mathcal{F}$表示常规的conv的操作。此处${\mathcal{F}}_i$的总参数量为$\frac{C}{2}\ast \frac{C}{2}\ast 4$，不采用SCConv方法的常规卷积参数量为$C\ast C$。因此参数量不改变。

二、分析

优势：不改变参数量的前提下，提高感受视野、加入注意力机制。
个人理解：两个$C/2$之间的特征似乎不交互。