动态头：用注意力统一目标检测头

目标检测是回答计算机视觉应用中“哪些目标位于哪里”的问题。在深度学习时代，几乎所有现代目标检测器共享相同的范式——特征提取的主干和定位和分类任务的头部。如何提高目标检测头的性能已经成为现有目标检测工作中的一个关键问题。检测头应该是尺度感知，空间感知和任务感知的。

1️⃣尺度感知：多个尺度截然不同的物体常常共存于一幅图像中；

2️⃣空间感知：在不同的视觉下，目标通常以不同的形状、旋转和位置出现；

3️⃣任务感知：目标可以具有各种表示（例如，边界框、中心和角点），这些表示拥有完全不同的目标和约束。

如果将主干的输出（即检测头的输入）视为维度水平×空间×通道的三维张量，发现这样的统一头可以被视为注意力学习问题。点子思路：在特征的每个特定维度上分别部署注意力机制，即level-wise、spatial-wise和channel-wise。

1️⃣尺度感知注意力模块仅部署在层次维度上。它学习各种语义层次的相对重要性，以根据单个对象的规模在适当的层次上增强特征。

2️⃣空间感知注意力模块部署在空间维度上（即高度×宽度）。它学习空间位置中的连贯判别表示。

3️⃣任务感知注意力模块部署在通道上。它指导不同的特征通道根据对象的不同卷积核响应分别支持不同的任务（例如，分类、框回归和中心/关键点学习）。

Dynamic Head

✅标题：

Dynamic Head: Unifying Object Detection Heads with Attentions

✅论文地址：

https://openaccess.thecvf.com/content/CVPR2021/papers/Dai_Dynamic_Head_Unifying_Object_Detection_Heads_With_Attentions_CVPR_2021_paper.pdf

✅代码：

https://github.com/microsoft/DynamicHead

L：金字塔层次的数量；S：高度与宽度；C:中间层次特征的通道数。任何种类的骨干网络都可以用于提取特征金字塔，将其进一步调整到相同的尺度，形成三维张量，然后用作动态头的输入。接下来，依次堆叠包括尺度感知、空间感知和任务感知注意力的几个DyHead块。

1️⃣尺度感知注意力：基于语义重要性动态融合不同尺度的特征

2️⃣空间感知注意力：基于融合特征的空间软件注意力模块来关注在空间位置和特征级别之间一致存在的判别区域。首先通过使用可变形卷积使注意力学习变得稀疏，然后在相同的空间位置聚合跨级别的特征。

3️⃣任务感知注意力：动态切换功能的开启和关闭通道，以支持不同的任务。

未来展望：如何使全注意力模型易于学习和高效计算，以及如何在头部设计中系统地考虑更多的注意力模式以获得更好的性能。

注：论文原文出自Dynamic Head: Unifying Object Detection Heads with Attentions本文仅用于学术分享，如有侵权，请联系后台作删文处理。

最后：

如果你想要进一步了解更多的相关知识，可以关注下面公众号联系~会不定期发布相关设计内容包括但不限于如下内容:信号处理、通信仿真、算法设计、matlab appdesigner，gui设计、simulink仿真......希望能帮到你！