【GAM全文翻译及代码实现】Global Attention Mechanism: Retain Information to Enhance Channel-Spatial Interactions

最新推荐文章于 2024-08-02 21:38:53 发布

刘可乐呀

最新推荐文章于 2024-08-02 21:38:53 发布

阅读量1.4w

点赞数 7

分类专栏：论文翻译文章标签：深度学习计算机视觉神经网络图像处理

本文链接：https://blog.csdn.net/m0_53232749/article/details/123208991

版权

paper：https://arxiv.org/pdf/2112.05561v1.pdf

1. Introduction

3. Global Attention Mechanism (GAM)

代码实现

4. Experiment

4.1 Classification on CIFAR-100 and ImageNet datasets

4.2 Ablation studies

5. Conclusion

References

Abstract

为了提高各种计算机视觉任务的性能，人们研究了各种注意机制。然而，以往的方法忽略了保留通道和空间两个方面的信息对增强跨维交互作用的重要性。因此，我们提出了一种全局吸引机制，通过减少信息约简和放大全局交互表示来提高深度神经网络的性能。在卷积空间关注子模块的基础上，提出了一种基于多层感知器的三维排列通道关注子模块。在CIFAR-100和ImageNet-1K上对所提出的图像分类机制的评估表明，我们的方法稳定地优于最近几种使用ResNet和轻量级MobileNet的注意机制。

1. Introduction

卷积神经网络(CNNs)在计算机视觉领域的许多任务和应用中得到了广泛的应用(Girshick et al.)。研究人员发现，CNN在提取深层视觉表征方面表现良好。随着CNNs相关技术的改进，ImageNet数据集上的图像分类(Den et al.)在过去九年中，准确率从63%提高到90%(Krizhevsky et al)。这一成就还归功于ImageNet数据集的复杂性，这为相关研究提供了难得的机会。鉴于其涵盖的真实场景的多样性和广泛性，它给传统的表象分类基准、表征学习、迁移学习等研究带来了很大的益处，特别是对注意机制的研究也带来了挑战。

近年来，注意机制在多种应用中的性能不断提高，并引起了人们的研究兴趣(Niu et al.)。Wang et al.使用编解码器残差注意模块对特征映射进行细化，以获得更好的性能。Hu et al.，Woo et al.、Park et al.分别使用空间注意机制和通道注意机制，获得了较高的准确率。然而，由于信息减少和维度分离，这些机制利用了来自有限感受域的视觉表示。在这一过程中，它们失去了全球空间-通道交互作用。我们的研究目标是让注意力机制跨越空间通道维度。我们提出了一种保留信息的“全局”注意机制，以放大“全局”的跨维互动。因此，我们将所提出的方法命名为全局注意机制Global Attention Mechanism(GAM)。

已经有几个研究集中在图像分类任务中注意机制的性能改善上。挤压激励网络(SENet)(Hu et al.)首先利用通道注意和通道特征融合来抑制不重要的通道，但对不重要的像素的抑制效率较低。后一种注意机制同时考虑了空间维度和通道维度。卷积挡路注意模块(CBAM)(Woo et al.)顺序放置通道和空间注意操作，而瓶颈注意模块(BAM)(Park et al.)同时进行。然而，这两种方法都忽略了通道-空间的相互作用，从而丢失了跨维信息。考虑到跨维交互的重要性，三元组注意模块(TAM)(Misra et al.)通过利用通道、空间宽度和空间高度这三个维度中每一对之间的注意权重来提高效率。但是，每次注意操作仍然应用于其中两个维度，而不是全部三个维度。为了放大跨维度的交互作用，我们提出了一种能够捕捉所有三个维度的显著特征的注意机制。

3. Global Attention Mechanism (GAM)

我们的目标是设计一种减少信息缩减并放大全局维度交互特征的机制。我们采用了CBAM中的顺序通道-空间注意机制，并对子模块进行了重新设计。整个过程如图1所示，并在公式1和公式2中表示(Woo et al.)。给定输入特征映射 $F_{1}\in {R}^{C*H*W}$ ，中间状态 $F_{2}$ 和输出 $F_{3}$ 定义为：