这篇文章可能会慢慢写一段时间,旨在学习常见的变体卷积,以及深入学习卷积的底层实现原理。
一、分组卷积(Group Convolution)
二、空洞卷积(Dilated Convolution)
三、可形变卷积(Deformable Convolution)
四、条件卷积
五、自适应卷积(SCConv)
Liu J J, Hou Q, Cheng M M, et al. Improving convolutional networks with self-calibrated convolutions[C]//Proceedings of the IEEE/CVF conference on computer vision and pattern recognition. 2020: 10096-10105.
一、结构
- 简单说明:
C ∗ H ∗ W C*H*W C∗H∗W的特征图被分成两个 C 2 ∗ H ∗ W \cfrac{C}{2}*H*W 2C∗H∗W的特征图。一部分进行常规的conv的操作。另一部分通过下采样特征提取、自连接等操作,扩大感受视野、捕捉自注意力权重。 - 参数量计算:
F \mathcal{F} F表示常规的conv的操作。此处 F i \mathcal{F_i} Fi的总参数量为 C 2 ∗ C 2 ∗ 4 \cfrac{C}{2}*\cfrac{C}{2}*4 2C∗2C∗4,不采用SCConv方法的常规卷积参数量为 C ∗ C C*C C∗C。因此参数量不改变。
二、分析
优势:不改变参数量的前提下,提高感受视野、加入注意力机制。
个人理解:两个
C
/
2
C/2
C/2之间的特征似乎不交互。