YOLOv10改进 | 独家创新- 注意力篇 | YOLOv10引入结合ECA和NRMS形成全新的ERMS注意力机制和C2f_ERMS(全网独家创新)

1. ERMS介绍

          (1). 整合通道和空间注意力机制：
          ECA模块专注于通道间的交互，通过全局平均池化提取每个通道的全局信息，然后通过一维卷积生成每个通道的权重，最终使用Sigmoid激活函数得到通道注意力权重，从而增强重要通道的特征。然而，ECA模块没有考虑到空间信息的交互。
          NRMS模块专注于空间维度上的注意力机制，通过查询、键和值的线性变换，以及自注意力机制来捕捉空间位置间的相关性。同时，NRMS模块还可以通过相对位置编码进一步提升空间特征的提取能力。但NRMS模块没有考虑通道间的关系。
          ERMS模块则将ECA和NRMS模块的优势结合起来，既考虑了通道间的交互，也考虑了空间维度上的相关性，从而能够更全面地捕捉图像的特征信息。

          (2). 灵活的权重调整机制：
          ERMS模块通过引入两个可学习的参数α和β，分别控制ECA模块输出和NRMS模块输出在最终结果中的权重。这种灵活的权重调整机制使得ERMS模块能够在不同的任务和数据集上动态调整通道和空间注意力的贡献，进一步提升模型的表现。

          (3). 丰富的特征表达能力：
         ECA模块通过全局平均池化和一维卷积捕捉每个通道的全局信息，增强了重要通道的特征。
         NRMS模块通过多头自注意力机制，捕捉不同空间位置间的复杂关系，并且可以通过相对位置编码进一步提升空间特征的表达能力。
         ERMS模块结合了ECA和NRMS的优势，既能够增强重要通道的特征，又能捕捉空间位置间的复杂关系，从而提供更丰富和多样的特征表达能力。

          (4). 更强的特征选择能力：