IT_Jrx的博客

原创 ELA高效局部注意力机制（paddle代码实现）

高效局部注意力（ELA）模块，能够准确捕获感兴趣区域的位置，保持输入特征图通道的维度，并保留其轻量级的特性。独立处理每个方向上的上述特征向量以获得注意力预测，然后使用乘积运算将它们组合起来，确保感兴趣区域的准确位置信息。具体来说，在第二步中，应用一维卷积分别与两个特征向量进行局部交互，可以选择调整核大小以指示局部交互的范围。得到的特征向量经过分组归一化（GN）和非线性激活函数处理，以产生两个方向上的位置注意力预测。最终的位置注意力是通过将两个方向上的位置注意力相乘得到的。小白一枚，记录学习成果，请指教~