摘要
RFAConv是一种新的注意力机制,称为感受野注意力(RFA)。卷积块注意力模块(CBAM)和协调注意力模块(CA)只关注空间特征,不能完全解决卷积核参数共享的问题,但在RFA中,感受野空间特征不仅集中,而且为大尺寸卷积核提供了良好的注意力权重。RFA设计的感受野注意力卷积运算(RFAConv)可以被认为是取代标准卷积的一种新方法,它带来的计算成本和许多参数几乎可以忽略不计。由于作者没有开源我自己复现了一版,并尝试将其加入到YoloV8网络中。我们一起去看看效果吧!
论文翻译
摘要
论文链接:https://arxiv.org/pdf/2304.03198.pdf
空间注意力被广泛用于提高卷积神经网络的性能。然而,它有一定的局限性。本文对空间注意力的有效性提出了一种新的视角,即空间注意力机制从本质上解决了卷积核参数共享问题。然而,空间注意力生成的注意图中包含的信息对于大尺寸的卷积核来说是不够的。因此,本文提出一种新的注意力机制,称为感受野注意力(RFA)。现有的空间注意力,如卷积块注意力模块(Convolutional Block attention Module, CBAM)和协同注意力(coordination attention, CA)仅关注空间特征,未能完全解决卷积核参数共享的问题。相比之下,RFA不仅关注感受野空间特征,而且为大尺寸卷积核提供了有效的