改进YOLOv8注意力系列五：结合ParNetAttention注意力、高效的金字塔切分注意力模块PSA、跨领域基于多层感知器（MLP）S2Attention注意力

已于 2024-02-29 20:40:00 修改
阅读量1.3k 收藏 24
点赞数 27
分类专栏： YOLOv8改进宝典 文章标签： YOLO
于 2024-02-25 11:38:43 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_44224801/article/details/136280439
版权
YOLOv8改进宝典 专栏收录该内容
47 篇文章 14 订阅 ¥119.90 ¥299.90
订阅专栏
该博客详细介绍了YOLOv8的改进，包括采用ParNetAttention、高效的金字塔切分注意力模块PSA和跨领域基于多层感知器的S2Attention。这些注意力机制的引入旨在提升模型的性能和效率，通过特征的自注意力、上下文注意力和多尺度融合来优化目标检测任务。
摘要由CSDN通过智能技术生成

在这里插入图片描述

改进YOLOv8注意力系列五：结合ParNetAttention注意力、高效的金字塔切分注意力模块PSA、跨领域基于多层感知器（MLP）S2Attention注意力


  本文提供了改进 YOLOv8注意力系列包含不同的注意力机制以及多种加入方式，在本文中具有完整的代码和包含多种更有效加入YOLOv8中的yaml结构，读者可以获取到注意力加入的代码和使用经验，总有一种适合你和你的数据集。

🗝️YOLOv8实战宝典--星级指南：从入门到精通，您不可错过的技巧

  -- 聚焦于YOLO的 最新版本， 对颈部网络改进、添加局部注意力、增加检测头部，实测涨点

💡 深入浅出YOLOv8：我的专业笔记与技术总结

  -- YOLOv8轻松上手， 适用技术小白
了解本专栏 订阅专栏 解锁全文
一休哥※
关注
专栏目录
订阅专栏
YOLOv9改进，YOLOv9添加GAM注意力机制
weixin_44779079的博客
07-09 486
全局注意力机制（GAM），通过减少信息减少和放大全局交互表示来提高深度神经网络的性能。引入了带有多层感知器的 3D 排列，用于通道注意力以及卷积空间注意力子模块，GAM注意机制理论详解可以参考链接:论文地址）
YOLOv10改进 | 注意力篇 | YOLOv10引入ParNetAttention注意力
tsg6698的博客
07-17 256
我们分析了我们的设计的扩展规则，并展示了如何在不改变网络深度的情况下提高性能。ParNet模块的核心思想是将传统的线性序列化的层组织方式替换为并行的子网络（即"流"），这些并行子网络在不同的分辨率上处理特征，并在网络的后期融合这些特征以进行下游任务。在融合过程中，没有使用跳跃连接；到此本文的正式分享内容就结束了，在这里给大家推荐我的YOLOv10改进有效涨点专栏，后期我会根据各种最新的前沿顶会进行论文复现，也会对一些老的改进机制进行补充，如果大家觉得本文帮助到你了，订阅本专栏，关注后续更多的更新~
爆改YOLOv8 | PSA注意力机制融合入YOLOv8
最新发布
weixin_43986124的博客
08-17 744
yolov8,PSA注意力，即插即用
即插即用篇 | YOLOv8 引入 ParNetAttention 注意力机制 | 《NON-DEEP NETWORKS》
YOLOv8项目贡献者
03-07 2229
YOLOv8 引入 ParNetAttention 注意力机制 | 《NON-DEEP NETWORKS》
YOLOv8改进，YOLOv8添加DAttention注意力机制
weixin_44779079的博客
07-04 1293
在本文中，提出了一种新颖的可变形自注意模块，其中键和值对在自我注意中的位置是以数据相关的方式选择。这种灵活的方案使自我关注模块能够专注于相关的区域，并捕捉更多信息特征。在此基础上，提出了可变形注意力变换器，一个具有可变形注意力的两幅图像主干模型分类和密集预测任务。CA注意机制理论详解可以参考链接:论文地址）
YOLOv5、YOLOv8改进：S2注意力机制
weixin_45303602的博客
08-18 1112
S2-MLPv2注意力机制最近，出现了基于 MLP 的视觉主干。与 CNN 和视觉Transformer相比，基于 MLP 的视觉架构具有较少的归纳偏差，在图像识别方面实现了有竞争力的性能。其中，spatial-shift MLP (S2-MLP)，采用直接的空间位移操作，取得了比包括 MLP-mixer 和 ResMLP 在内的开创性工作更好的性能。使用具有金字塔结构的较小补丁，视觉置换器 (ViP) 和Global Filter Network (GFNet) 实现了比 S2-MLP 更好的性能。
【YOLOv8改进 - 注意力机制】S2Attention : 整合空间位移和分割注意力
专注于图像领域，主要研究内容包括计算机视觉和深度学习，特别是在图像分类、目标检测和图像生成等方面有深入的研究和实践经验。
07-16 693
最近，基于MLP的视觉骨干网络开始出现。与CNN和视觉Transformer相比，具有较少归纳偏差的MLP架构在图像识别中表现出竞争力。其中，采用直接空间移位操作的空间移位MLP（S2-MLP）比包括MLP-mixer和ResMLP在内的早期工作取得了更好的性能。最近，使用较小的补丁和金字塔结构，Vision Permutator（ViP）和Global Filter Network（GFNet）在性能上超过了S2-MLP。本文中，我们改进了S2-MLP视觉骨干网络。
Yolov8 引入CVPR 2023 BiFormer: 基于动态稀疏注意力构建高效金字塔网络架构，对小目标涨点明显
04-20 6966
通过双层路由(bi-level routing)提出了一种新颖的动态稀疏注意力(dynamic sparse attention )，以实现更灵活的计算分配和内容感知，使其具备动态的查询感知稀疏性
Yolov5/Yolov7 引入CVPR 2023 BiFormer: 基于动态稀疏注意力构建高效金字塔网络架构，对小目标涨点明显
03-23 1万+
Yolov5/Yolov7 引入CVPR 2023 BiFormer: 基于动态稀疏注意力构建高效金字塔网络架构，对小目标涨点明显
YOLOV8注意力改进方法：Deformable Attention Transformer（附改进代码）
m0_74890428的博客
04-08 1274
们提出了一种新的可变形的自注意模块，其中以数据相关的方式选择自注意中的键-值对的位置。这种灵活的方案使自注意模块能够专注于相关区域并捕获其特征。在此基础上，我们提出了Deformable Attention Transformer，这是一种用于图像分类和密集预测任务的具有可变形注意力的通用主干模型。大量实验表明，我们的模型在综合基准上取得了持续改进的结果。
YOLOv8改进 | 注意力篇 | 一文带你改进GAM、CBAM、CA、ECA等通道注意力机制和多头注意力机制
热门推荐
Snu77的博客
03-22 1万+
官方论文地址：官方论文地址点击此处即可跳转官方代码地址：官方代码地址点击此处即可跳转GAM旨在通过设计一种机制，减少信息损失并放大全局维度互动特征，从而解决传统注意力机制在通道和空间两个维度上保留信息不足的问题。GAM采用了顺序的通道-空间注意力机制，并对子模块进行了重新设计。具体来说，通道注意力子模块使用3D排列来跨三个维度保留信息，并通过一个两层的MLP增强跨维度的通道-空间依赖性。
pytorch代码实现注意力机制之ParNet_Attention
DM_zx的博客
08-19 719
注意力机制之ParNet注意力
【YOLO改进】主干插入ParNetAttention模块(基于MMYOLO)
Vlone_pp的博客
04-16 867
确保 class ParNetAttention中的输入维度为in_channels(因为MMYOLO会提前传入输入维度参数，所以要保持参数名的一致)修改对应的配置文件，并且将plugins的参数“type”设置为“ParNetAttention”，可参考。将开源代码ParNetAttention.py文件复制到mmyolo/models/plugins目录下。修改mmyolo/models/plugins/__init__.py文件。
YOLOv10改进 | 独家创新- 注意力篇 | YOLOv10引入结合EMAttention和ParNetAttention形成全新的EPA注意力机制和C2f_EPA(全网独家创新)
tsg6698的博客
07-17 2801
尽管EPAAttention结合了两种注意力机制，其计算复杂度相较于单一注意力机制略有增加，但通过合理的加权融合和高效的卷积操作设计，EPAAttention在保证计算效率的同时，显著提升了特征提取的性能。总之，EPAAttention通过结合EMAttention和ParNetAttention的优点，采用加权融合、自适应特征增强和多尺度特征提取等策略，在图像特征提取方面表现出了更优异的性能，能够更有效地应对复杂的图像处理任务。我仅放在Backbone中的一层，大家可以多加且多试其他位置。
改进YOLO系列：9.添加S2Attention注意力机制
weixin_45454137的博客
08-25 813
改进YOLO系列：9.添加S2Attention注意力机制
注意力机制篇 | YOLOv8改进之在C2f模块添加ParNetAttention注意力机制
突然好想你
05-08 469
ParNetAttention旨在解决传统注意力机制在处理长序列时的效率问题，本文所做的改进是在C2f模块添加ParNetAttention注意力机制。🌈
改进YOLOv5系列：10.最新HorNet结合YOLO应用首发！ | 多种搭配，即插即用 | Backbone主干、递归门控卷积的高效高阶空间交互高效
包括YOLOv5、YOLOv7、YOLOv8等模型改进
08-19 1万+
目标检测科研Trick改进推荐 | 包括Backbone、Neck、Head、注意力机制、IoU损失函数、NMS、Loss计算方式、自注意力机制、数据增强部分、激活函数
注意力机制(attention)学习笔记
pengxiang1998的博客
09-10 1185
直观理解注意力机制，即decode每要生成一种状态，都要去关注encode中的所有状态，即每个状态间都有连接，而连线的粗细则反映两者的相关程度，如法语中的zone就是英语中的Area，通过这个权重他告诉decode更去关注encode中哪一个状态，这也是attention命名的由来。可以大幅提高模型的准确性，如在RNN文本翻译中其会计算与所有状态的相关性，并得出权重，即他会考虑所有状态并给出最重要的关注，这也就是注意力命名的由来，与此同时，关注所有的状态也必定需要大量的计算。计算相关性得到的，同样，后面。
YOLO改进系列之ParNetAttention注意力机制
sc1434404661的博客
11-30 654
ParNet的核心思想是通过注意力机制，让网络在处理序列中的不同位置之间建立参考关系，从而更好地捕捉序列中的长距离依赖关系。本文将ParNet注意力机制应用到YOLOv5模型中。此外，ParNet注意力可进一步应用于YOLOv7、YOLOv8等模型中，欢迎大家关注本博主的微信公众号 BestSongC，后续更多的资源如模型改进、可视化界面等都会在此发布。
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

一休哥※

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值