本文内容:添加RFAConv
论文简介
空间注意被广泛用于提高卷积神经网络的性能。然而,它也有一定的局限性。本文提出了空间注意有效性的新视角,即空间注意机制本质上解决了卷积核参数共享问题。然而,空间注意生成的注意图所包含的信息对于大尺度卷积核来说是不够的。因此,我们提出了一种新的注意机制,即接受场注意(RFA)。现有的空间注意方法,如卷积块注意模块(CBAM)和协调注意(CA),只关注空间特征,没有充分解决卷积核参数共享问题。相比之下,RFA不仅关注接受场空间特征,而且为大尺寸卷积核提供了有效的注意权值。RFA开发的接受场注意卷积运算(RFAConv)代表了一种替代标准卷积运算的新方法。它提供了几乎可以忽略不计的计算成本和参数增量,同时显著提高了网络性能。我们在ImageNet-1k、COCO和VOC数据集上进行了一系列实验,以证明我们方法的优越性。特别重要的是,我们认为现在是时候将焦点从空间特征转移到当前空间注意机制的接受场空间特征上了。
1.步骤一
新建blocks/CONV.py文件,添加如下代码: