【Block总结】SCSA，探索空间与通道注意力之间的协同效应|即插即用

论文信息

该论文于2025年1月27日发布，探讨了空间注意力和通道注意力的协同作用，提出了一种新的空间与通道协同注意力模块（SCSA）。该模块由可共享多语义空间注意力（SMSA）和渐进通道自注意力（PCSA）组成，旨在提升视觉任务中的特征提取能力。

• 论文链接：https://arxiv.org/pdf/2407.05128

• GitHub链接：https://github.com/HZAI-ZJNU/SCSA
  

创新点

• 多语义空间注意力（SMSA）：整合多种语义信息，通过渐进压缩策略将空间先验信息注入通道自注意力中。
• 渐进通道自注意力（PCSA）：基于通道单头自注意力机制，增强特征交互，缓解多语义信息之间的差异。
• 协同机制：通过空间注意力引导通道注意力的学习