YOLOv9改进，YOLOv9添加MHSA注意力机制(多头注意力机制)并与RepNCSPELAN4结构融合

已于 2024-10-07 18:26:14 修改
阅读量151 收藏
点赞数
分类专栏： YOLOv9改进 文章标签： YOLO 目标检测 python 计算机视觉 人工智能 深度学习
于 2024-07-15 16:51:21 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44779079/article/details/140442967
版权
YOLOv9改进 专栏收录该内容
47 篇文章 6 订阅 ¥199.90 ¥299.90
订阅专栏

在这里插入图片描述

文章目录

  • 前言
  • 🎓一、YOLOv9原始版本代码下载
    • 🍀🍀1.yolov9模型结构图
    • 🍀🍀2.环境配置
  • 🎓二、MHSA代码
  • 🎓三、添加方法
    • 🍀🍀1.在modules目录下添加第二章的代码
    • 🍀🍀2.在__init__.py文件进行导入
    • 🍀🍀3.在yolo.py文件进行注册
  • 🎓四、yaml文件修改
    • 🍀🍀1.第一种添加方法
    • 🍀🍀2.第二种添加方法
  • 🎓五、训练文件修改
  • 总结

前言

BoTNet，这是一种概念上简单但功能强大的骨干架构，它结合了MHSA意力机制，适用于图像分类、目标检测和实例分割等多种计算机视觉任务。仅通过在ResNet的最后三个瓶颈块中将空间卷积替换为MHSA注意力，不做其他任何更改，我们的方法在实例分割和目标检测上显著优于基准，同时减少了参数，延迟开销最小。
理论详解可以参考链接：论文地址
代码可在这个链接找到：代码地址

本文在YOLOv9中引入MHSA注意力机制(多头注意力机制)并与RepNCSPELAN4结构融合，代码已经整理好了，跟着文章复制粘贴，即可直接运行

了解本专栏 订阅专栏 解锁全文
挂科边缘
关注
专栏目录
订阅专栏
YOLOv9改进，YOLOv9添加NAM注意力机制并与RepNCSPELAN4结构融合
weixin_44779079的博客
08-31 152
我们提出了NAM作为一种高效且轻量级的注意机制。我们采用了CBAM中的模块整合方法，并重新设计了通道和空间注意子模块。然后，在每个网络块的末端嵌入NAM模块。对于残差网络，它被嵌入到残差结构的末端。我们还对空间维度应用BN的缩放因子来衡量像素的重要性。我们称之为像素归一化。对应的空间注意子模块如图2。NAM的优势1.高效性：通过使用BN的缩放因子，我们能够高效地衡量通道和像素的重要性，而不会显著增加计算复杂度。2.轻量级：NAM模块结构简单且易于嵌入现有网络架构中。
YOLOv9改进，YOLOv9添加GAM注意力机制
weixin_44779079的博客
07-09 505
全局注意力机制（GAM），通过减少信息减少和放大全局交互表示来提高深度神经网络的性能。引入了带有多层感知器的 3D 排列，用于通道注意力以及卷积空间注意力子模块，GAM注意机制理论详解可以参考链接:论文地址）
YOLOv8改进 - 注意力篇 - 引入MHSA注意力机制
最新发布
浪子L的博客
10-06 715
YOLOv8改进 - 注意力篇 - 引入MHSA注意力机制
YOLOv9改进策略【注意力机制篇】| 添加SE、CBAM、ECA、CA、Swin Transformer等注意力和多头注意力机制
qq_42591591的博客
08-22 1491
这篇文章带来一个经典注意力模块的汇总，虽然有些模块已经发布很久了，但后续的注意力模块也都是在此基础之上进行改进的，对于初学者来说还是有必要去学习了解一下，以加深对模块，模型的理解。
YOLOv9改进策略 | 添加注意力篇 | 高效的注意力改进策略EMAttention注意力机制（附多个可添加位置）
Snu77的博客
05-07 1378
本文给大家带来的改进机制是EMAttention注意力机制，它的重塑部分通道到批次维度，并将通道维度分组为多个子特征，以保留每个通道的信息并减少计算开销。EMA模块通过编码全局信息来重新校准每个并行分支中的通道权重，并通过跨维度交互来捕获像素级别的关系。本文首先给大家提供效果图(由基础版本未作任何修改和修改了本文的改进机制的效果对比图)，然后介绍其主要的原理，最后手把手教大家如何添加该注意力机制。YOLOv9有效涨点专栏-持续复现各种顶会内容-有效涨点-全网改进最全的专栏目录一、本文介绍。
YOLOv8改进 - 注意力篇 - 引入SEAttention注意力机制
浪子L的博客
10-03 1794
以上就是SEAttention的原理及使用方式，但具体SEAttention注意力机制的具体位置放哪里，效果更好。需要根据不同的数据集做相应的实验验证。希望本文能够帮助你入门YOLO中注意力机制的使用。
YOLOv9改进策略 | 添加注意力篇 | 利用YOLOv10提出的PSA注意力机制助力YOLOv9有效涨点（附代码 + 详细修改教程）
Snu77的博客
06-04 1040
本文给大家带来的改进机制是YOLOv10提出的PSA注意力机制，自注意力在各种视觉任务中得到了广泛应用，因为它具有显著的全局建模能力。然而，自注意力机制表现出较高的计算复杂度和内存占用。为了解决这个问题，鉴于注意力头冗余的普遍存在，我们提出了一种高效的部分自注意力（PSA）模块设计，其能够在不显著增加计算成本的情况下提升YOLO模型的性能！本文附其网络结构图辅助大家理解该结构，同时本文包含YOLOv9添加该注意力机制的方法！欢迎大家订阅我的专栏一起学习YOLO！
YOLOv9改进，YOLOv9添加DCNv3可变性卷积与RepNCSPELAN4结构融合(无需编译)
weixin_44779079的博客
08-27 173
CNv3在DCNv2版本上进行了改进，在实践中，DCNv2通常用作常规卷积的扩展，加载预训练权重并进行微调，以获得更好的性能，但这并不完全适用于需要从头开始训练的大规模视觉基础模型。为了解决这个问题，DCNv3从以下几个方面扩展了DCNv2：1.在卷积神经元之间共享权重、2.引入多组机制、3.沿采样点归一化调制标量。
YOLOv9改进策略 | 添加注意力 | MSDA多尺度空洞注意力（附多位置添加教程 + 代码解析）
Snu77的博客
04-22 2345
本文给大家带来的改进机制是MSDA（多尺度空洞注意力）发表于今年的中科院一区(算是国内计算机领域的最高期刊了)，其全称是"DilateFormer: Multi-Scale Dilated Transformer for Visual Recognition"。MSDA的主要思想是通过线性投影得到特征图X的相应查询、键和值。然后，将特征图的通道分成n个不同的头部，并在不同的头部中以不同的扩张率执行多尺度SWDA来提高模型的处理效率和检测精度。
【YOLOv10改进-注意力机制】CoTAttention:上下文转换器注意力
专注于图像领域，主要研究内容包括计算机视觉和深度学习，特别是在图像分类、目标检测和图像生成等方面有深入的研究和实践经验。
07-08 421
Transformer自注意力机制已经引领了自然语言处理领域的革命，并且最近激发了Transformer风格架构设计在众多计算机视觉任务中取得竞争性结果。然而，大多数现有设计直接在二维特征图上使用自注意力机制，以基于每个空间位置的孤立查询和键对来获取注意力矩阵，但没有充分利用邻近键之间的丰富上下文信息。在这项工作中，我们设计了一种新颖的Transformer风格模块，即Contextual Transformer（CoT）块，用于视觉识别。
YOLOv9改进策略【注意力机制篇】| 引入SimAM注意力模块（一个简单的，无参数的卷积神经网络注意模块）
qq_42591591的博客
08-23 1383
本文记录的是基于SimAM注意力模块的YOLOv9目标检测方法研究。SimAM注意力模块通过优化能量函数来获得每个神经元的三维权重，而或增加计算复杂度。若是有轻量化需求的小伙伴，无参的注意力模块也许是一个不错的选择。
YOLOv9改进策略 | 添加注意力篇 | TripletAttention三重注意力机制（附代码+机制原理+添加教程）
Snu77的博客
04-24 1965
本文给大家带来的改进是三重注意力机制。这个机制，它通过三个不同的视角来分析输入的数据，就好比三个人从不同的角度来观察同一幅画，然后共同决定哪些部分最值得注意。三重注意力机制的主要思想是在网络中引入了一种新的注意力模块，这个模块包含三个分支，分别关注图像的不同维度。比如说，一个分支可能专注于图像的宽度，另一个分支专注于高度，第三个分支则聚焦于图像的深度，即色彩和纹理等特征。这样一来，网络就能够更全面地理解图像内容，就像是得到了一副三维眼镜，能够看到图片的立体效果一样。
YOLOv8改进 | 注意力机制 | 添加MLCA混合局部通道注意力（轻量化注意力机制）
Snu77的博客
01-03 6530
本文带来的改进机制是MLCA(Mixed local channel attention)翻译来就是混合局部通道注意力，它结合了局部和全局特征以及通道和空间特征的信息，根据文章的内容来看他是一个轻量化的注意力机制，能够在增加少量参数量的情况下从而大幅度的提高检测精度(论文中是如此描述的)，根据我的实验内容来看，该注意力机制确实参数量非常少，效果也算不错，而且官方的代码中提供了二次创新的思想和视频讲解非常推荐大家观看。推荐指数：⭐⭐⭐⭐⭐涨点效果：⭐⭐⭐⭐⭐。
Yolov9比其他yolo版本的改进
Littro Innovations
06-09 380
1. **可逆函数角度的分析**：YOLOv9从可逆函数的角度理论上分析了现有的CNN架构，基于这种分析，设计了PGI（可编程梯度信息）和辅助可逆分支，取得了优秀的结果。8. **效率、准确性和适应性的提高**：YOLOv9引入了开创性技术，如PGI和GELAN，这标志着实时目标检测领域的重大进步，提高了模型的效率、准确性和适应性。5. **性能提升**：YOLOv9在MS COCO数据集上的性能在所有方面都大大超过了现有的实时目标检测器，显示出速度和精度上的显著提升。
YOLOv9最新改进系列：超越VIT！重新思考CNN大核注意力设计,显著提升小目标检测性能！
weixin_51692073的博客
04-11 2060
大型可分离核注意力（LSKA）模块的视觉注意力网络（VAN）已被证明在各种基于视觉的任务上提供了卓越的性能，超过了视觉转换器（ViTs）。然而，这些LSKA模块中的逐深度卷积层随着卷积核尺寸的增加，计算和内存占用呈二次增长。为了缓解这些问题，并使VAN的注意力模块能够使用极大的卷积核，我们提出了一种大型可分离核注意力模块，称为LSKA。LSKA将深度卷积层的2D卷积核分解为级联的水平1D和垂直1D内核。与标准LKA设计不同，提出的分解使得可以直接使用注意力模块中的深度卷积层的大内核，而不需要任何额外的块。
YOLOv5改进 | 添加注意力篇 | 利用YOLOv10提出的PSA注意力机制助力YOLOv5有效涨点（附代码 + 详细修改教程）
Snu77的博客
06-02 1581
本文给大家带来的改进机制是YOLOv10提出的PSA注意力机制，自注意力在各种视觉任务中得到了广泛应用，因为它具有显著的全局建模能力。然而，自注意力机制表现出较高的计算复杂度和内存占用。为了解决这个问题，鉴于注意力头冗余的普遍存在，我们提出了一种高效的部分自注意力（PSA）模块设计，其能够在不显著增加计算成本的情况下提升YOLO模型的性能！本文附其网络结构图辅助大家理解该结构，同时本文包含YOLOv8添加该注意力机制的方法！欢迎大家订阅我的专栏一起学习YOLO！
YOLOv9改进目录一览 | 涉及卷积层、轻量化、注意力、损失函数、Backbone、SPPF、Neck、检测头等全方位改进
qq_42591591的博客
09-20 1776
如何寻找创新点？为什么要使用这个模块？如何才能提升模型的精度？这是贯穿我们研究始终的问题。创新点在这个专栏中我已经整理好了，这已经省去了大部分时间，但是当我们使用这些新的模块去优化已有的模型，如何才能提升模型的精度，才是我们要达到的最终目标。当然我们可以使用传统的A+B+C的方法去堆积模块，然后是进行大量的实验去排列组合以实现最终的精度提升，这无可厚非。
YOLOv9全网最新改进系列：：YOLOv9完美融合双卷积核（DualConv）来构建轻量级深度神经网络,目标检测模型有效涨点神器！！！
weixin_51692073的博客
05-13 1572
YOLOv9全网最新改进系列：：YOLOv9完美融合双卷积核（DualConv）来构建轻量级深度神经网络,目标检测模型有效涨点神器！！！
InceptionNext:当Inception遇到ConvNeXt
AI浩
06-24 1347
回顾深度学习的历史[31]，卷积神经网络(Convolutional Neural Networks, cnn)[32,33]无疑是计算机视觉中最流行的模型。在2012年，AlexNet[30]赢得了ImageNet[11,50]比赛，开启了cnn在深度学习，尤其是计算机视觉领域的新时代。
YOLOv5s添加注意力机制
03-05
YOLOv5s是一种目标检测算法，它YOLO系列的最新版本之一。在YOLOv5s中添加注意力机制可以提升模型的性能和准确度。注意力机制可以帮助模型更加关注重要的目标区域，从而提高目标检测的效果。 在YOLOv5s中，添加注意力机制的方法主要有两种：SENet和CBAM。 1. SENet（Squeeze-and-Excitation Network）：SENet通过引入一个注意力模块来增强模型对重要特征的关注程度。该模块包括两个步骤：首先，通过全局平均池化将特征图压缩为一个向量；然后，通过两个全连接层将该向量映射为一个权重向量，用于对特征图进行加权。这样，模型可以更加关注重要的特征，提高目标检测的准确度。 2. CBAM（Convolutional Block Attention Module）：CBAM也是一种注意力机制，它结合了空间注意力和通道注意力两个模块。空间注意力模块通过学习特征图的空间相关性来提取重要的空间信息；通道注意力模块通过学习特征图的通道相关性来提取重要的通道信息。这样，CBAM可以同时关注空间和通道上的重要特征，提高目标检测的性能。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

挂科边缘

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值