yolo系列文章目录
文章目录
一、SimAM注意力机制是什么?
论文题目:SimAM: A Simple, Parameter-Free Attention Module for Convolutional Neural Networks
论文地址:http://proceedings.mlr.press/v139/yang21o/yang21o.pdf
源代码:https://github.com/ZjjConan/SimAM
不同于现有的通道/空域注意力模块,该模块无需额外参数为特征图推导出3D注意力权值。具体来说,基于著名的神经科学理论提出优化能量函数以挖掘神经元的重要性。进一步针对该能量函数推导出一种快速解析解并表明:该解析解仅需不超过10行代码即可实现。该模块的另一个优势在于:大部分操作均基于所定义的能量函数选择,避免了过多的结构调整。最后在不同的任务上对所提注意力模块的有效性、灵活性进行验证。
SIAM(Spatial Information Attention Mechanism,空间信息关注机制)是一种强大的注意力机制,已经在计算机视觉领域广泛应用于各种任务,如目标检测、图像分割和图像生成。与传统的注意力机制相比,SIAM具有更强的建模能力,