YOLOv11改进 | 注意力篇 | YOLOv11引入TripletAttention三重注意力机制

1. TripletAttention介绍

1.1  摘要： 由于注意机制能够在通道或空间位置之间建立相互依赖关系，近年来已被广泛研究并广泛应用于各种计算机视觉任务中。在本文中，我们研究了轻量但有效的注意机制，并提出了一种新的方法--三重注意，通过使用三分支结构捕获交叉维度的交互来计算注意权重。对于输入张量，三重注意通过旋转操作和随后的残差变换来建立维度间的相关性，并以可以忽略的计算开销对通道间和空间信息进行编码。我们的方法既简单又高效，可以很容易地作为附加模块插入到传统的主干网络中。我们在各种具有挑战性的任务上展示了我们的方法的有效性，包括在ImageNet-1k上的图像分类以及在MSCOCO和Pascal VOC数据集上的目标检测。此外，我们通过直观地检查GradCAM和GradCAM++的结果，提供了对三重注意的表现的广泛洞察。我们的方法的经验评估支持了我们的直觉，即在计算注意力权重时捕获跨维度的依赖关系的重要性。

官方论文地址：https://arxiv.or