YOLOv10改进 | 独家创新- 注意力篇 | YOLOv10结合全新注意力机制DEMAttention(多尺度融合)和C2f_DEMAttention(全网独家创新)

最新推荐文章于 2024-08-25 17:29:48 发布
最新推荐文章于 2024-08-25 17:29:48 发布
阅读量362 收藏
点赞数 8
分类专栏： YOLOv10有效涨点专栏 文章标签： YOLO 深度学习 计算机视觉 目标检测 人工智能 机器学习 神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/tsg6698/article/details/141327715
版权
YOLOv10有效涨点专栏 专栏收录该内容
102 篇文章 53 订阅 ¥89.90 ¥99.00
订阅专栏

1. DEMAttention介绍

          多尺度信息融合：DEMAttention通过引入多尺度卷积核（如5x5、1x7、7x1、1x11、11x1）对特征图进行卷积操作，使其能够捕捉不同尺度的图像特征。这种多尺度的处理方式有助于增强网络对多样化图像特征的敏感性，提升模型在不同尺寸和形状的物体上的检测和识别能力。

          高效特征表示：通过自适应行、列池化操作（pool_h和pool_w），DEMAttention能够有效地提取图像特征中的行和列信息，这些信息对于很多视觉任务（如图像分类和物体检测）都是至关重要的。结合1x1卷积的操作，模块可以充分融合这些信息，并减少特征图的尺寸，进而提高计算效率。

         细粒度特征提取：在特征提取过程中，DEMAttention使用了多种卷积操作，将初始特征与多尺度卷积后的特征进行结合。这样可以捕捉到图像中更加细微的变化和细节，使模型能够更好地理解复杂场景中的局部信息。

         自适应权重计算：通过Softmax和AdaptiveAvgPool2d的结合，DEMAttention可以根据输入图像特征自适应地计算权重，从而动态调整特征提取的重点区域。这样，模型能够更加关注图像中的关键部分，忽略无关或冗余的信息，提高特征提取的准确性和鲁棒性。

         正则化

了解本专栏 订阅专栏 解锁全文
小李学AI
关注
专栏目录
订阅专栏
YOLOv8改进 | 注意力篇 | 一文带你改进GAM、CBAM、CA、ECA等通道注意力机制和多头注意力机制
Snu77的博客
03-22 1万+
官方论文地址：官方论文地址点击此处即可跳转官方代码地址：官方代码地址点击此处即可跳转GAM旨在通过设计一种机制，减少信息损失并放大全局维度互动特征，从而解决传统注意力机制在通道和空间两个维度上保留信息不足的问题。GAM采用了顺序的通道-空间注意力机制，并对子模块进行了重新设计。具体来说，通道注意力子模块使用3D排列来跨三个维度保留信息，并通过一个两层的MLP增强跨维度的通道-空间依赖性。
YOLOv10改进 | 注意力机制 | 添加ACmix自注意力与卷积混合模型改善模型特征识别效率（包含二次创新PSA机制）
Snu77的博客
07-11 370
本文给大家带来的改进机制是ACmix自注意力机制的改进版本，它的核心思想是，传统卷积操作和自注意力模块的大部分计算都可以通过1x1的卷积来实现。ACmix首先使用1x1卷积对输入特征图进行投影，生成一组中间特征，然后根据不同的范式，即自注意力和卷积方式，分别重用和聚合这些中间特征。这样，ACmix既能利用自注意力的全局感知能力，又能通过卷积捕获局部特征，从而在保持较低计算成本的同时，提高模型的性能。本文包含二次创新PSA机制！YOLOv10改进系列专栏——本专栏持续复习各种顶会内容——科研必备目录。
YOLOv10改进 | 独家创新- 注意力篇 | YOLOv10结合全新多尺度动态增强注意力机制DSAttention(全网独家创新)
最新发布
tsg6698的博客
08-25 411
(4). 通道注意力增强：DSAttention在进行多尺度卷积之前，利用池化操作结合1x1卷积进行通道注意力的计算，通过Adaptive Pooling层提取通道间的全局信息，并通过Sigmoid激活函数强化重要的特征通道，从而提升特征选择的精度。这些多尺度特征融合能够更全面地捕捉图像中不同尺寸的目标物体，提升特征的表达能力。(5). 最终特征融合：该机制在多尺度卷积和注意力模块之后，使用1x1卷积进行最终特征的融合和压缩，从而有效地减少参数量和计算复杂度，并在保证特征表达能力的同时提高了模型的效率。
YOLOv8改进 | 注意力机制 | 结合静态和动态上下文信息的注意力机制
kay_545
07-06 1003
yolov8，yolov8改进，yolov8添加注意力机制，yolov8
【YOLOv8改进 - 注意力机制】SKAttention：聚合分支信息，实现自适应调整感受野大小
专注于图像领域，主要研究内容包括计算机视觉和深度学习，特别是在图像分类、目标检测和图像生成等方面有深入的研究和实践经验。
06-30 183
在标准卷积神经网络（CNNs）中，每一层的人工神经元的感受野大小被设计为相同。然而，神经科学界已知视觉皮层神经元的感受野大小会受到刺激的调节，这一点在构建CNN时很少被考虑。我们提出了一种动态选择机制，使每个神经元能够基于多尺度的输入信息自适应地调整其感受野大小。我们设计了一个称为选择性卷积（Selective Kernel，SK）单元的构建块，在该单元中，具有不同卷积核大小的多个分支通过受这些分支信息引导的softmax注意力融合。在融合层中，这些分支上的不同注意力产生了神经元的不同有效感受野大小。
【YOLOv8改进 - 注意力机制】 MHSA：多头自注意力（Multi-Head Self-Attention）
专注于图像领域，主要研究内容包括计算机视觉和深度学习，特别是在图像分类、目标检测和图像生成等方面有深入的研究和实践经验。
07-01 724
我们介绍了BoTNet，这是一个概念简单但功能强大的骨干架构，将自注意力引入多个计算机视觉任务，包括图像分类、物体检测和实例分割。通过仅在ResNet的最后三个瓶颈块中用全局自注意力替换空间卷积，而不进行其他更改，我们的方法在实例分割和物体检测任务上显著提升了基线性能，同时减少了参数，延迟方面的开销也极小。通过设计BoTNet，我们还指出了带自注意力的ResNet瓶颈块可以视为Transformer块。
YOLOv10改进 | 独家创新- 注意力篇 | YOLOv10引入结合SimAM和SKAttention形成全新的SKAM注意力机制和C2f_SKAM(全网独家创新)
tsg6698的博客
07-18 8859
总结：SKAM注意力机制通过结合SimAM和SKAttention的优点，利用多尺度特征提取和局部归一化处理，提供了更为强大的特征表示能力。到此本文的正式分享内容就结束了，在这里给大家推荐我的YOLOv10改进有效涨点专栏，后期我会根据各种最新的前沿顶会进行论文复现，也会对一些老的改进机制进行补充，如果大家觉得本文帮助到你了，订阅本专栏，关注后续更多的更新~- 虽然SKAttention具有更高的计算复杂度，但通过结合计算简单的SimAM，SKAM在保持高效特征提取的同时，降低了整体的计算开销。
YOLOv10改进 | 独家创新- 注意力篇 | YOLOv10引入结合EMAttention和ParNetAttention形成全新的EPA注意力机制和C2f_EPA(全网独家创新)
tsg6698的博客
07-17 2751
尽管EPAAttention结合了两种注意力机制，其计算复杂度相较于单一注意力机制略有增加，但通过合理的加权融合和高效的卷积操作设计，EPAAttention在保证计算效率的同时，显著提升了特征提取的性能。总之，EPAAttention通过结合EMAttention和ParNetAttention的优点，采用加权融合、自适应特征增强和多尺度特征提取等策略，在图像特征提取方面表现出了更优异的性能，能够更有效地应对复杂的图像处理任务。我仅放在Backbone中的一层，大家可以多加且多试其他位置。
YOLOv10改进 | 独家创新- 注意力篇 | YOLOv10引入结合EMAttention和NAMAttention形成全新的EAMA注意力机制和C2f_EAMA(全网独家创新)
tsg6698的博客
07-21 2093
综上EAMA注意力模块通过结合EMAttention和NAMAttention的优势，充分利用通道和空间信息，多尺度特征融合，权重自适应调整，加权融合机制等方面的改进，使其在图像特征提取能力上比单独使用NAMAttention和EMAttention更强。到此本文的正式分享内容就结束了，在这里给大家推荐我的YOLOv10改进有效涨点专栏，后期我会根据各种最新的前沿顶会进行论文复现，也会对一些老的改进机制进行补充，如果大家觉得本文帮助到你了，订阅本专栏，关注后续更多的更新~
YOLOv10改进 | 独家创新- 注意力篇 | YOLOv10引入结合MSCAAttention和LinearAttention形成全新的LMSCAAttention注意力机制(全网独家创新)
tsg6698的博客
07-12 909
它不仅仅通过多尺度卷积来增强特征的空间信息，还通过学习得到的注意力权重，使得特征在空间和通道上得到了更好的整合和提升，从而在图像特征提取任务中表现出更优异的性能。(2). 注意力加权：将多尺度卷积后的特征图展平并应用 LinearAttention，使得在特征融合的过程中，不仅考虑到空间范围的信息覆盖，还能够根据特征之间的相似性和重要性进行动态调整。(2). 通道间的相互作用：通过卷积操作将不同尺度的特征进行叠加，从而增强特征图的表达能力，但在注意力机制上没有显式的交互和加权过程。
YOLOv8改进有效系列目录 | 包含卷积、主干、检测头、注意力机制、Neck上百种创新机制
热门推荐
Snu77的博客
12-30 9万+
Hello，各位读者们好，本专栏自开设两个月以来已经更新改进教程120+余篇其中包含C2f、主干、检测头、注意力机制、Neck多种结构上创新，也有损失函数和一些细节点上的创新，订阅本专栏以后你不仅可以收获跟专栏的阅读权限，同时可以进Qq群，里面包含集成我所有创新的YOLO最新目录，和我本人录制的视频讲解教程，如果你想要在YOLOv8系列收获一篇论文，我相信订阅本专栏后你一定会有所收获~YOLOv8改进有效系列目录。
YOLOv8改进 | 注意力机制| 对小目标友好的BiFormer【CVPR2023】
kay_545
07-11 2344
yolov8，yolov8改进，Biformer
【YOLOv8改进】MCA：用于图像识别的深度卷积神经网络中的多维协作注意力
专注于图像领域，主要研究内容包括计算机视觉和深度学习，特别是在图像分类、目标检测和图像生成等方面有深入的研究和实践经验。
02-21 6459
先前的大量研究表明，注意力机制在提高深度卷积神经网络（CNN）的性能方面具有巨大潜力。然而，大多数现有方法要么忽略通道和空间维度的建模注意力，要么引入更高的模型复杂性和更重的计算负担。为了缓解这种困境，在本文中，我们提出了一种轻量级且高效的多维协作注意力（MCA），这是一种通过使用三分支架构同时推断通道、高度和宽度维度注意力的新方法，几乎没有额外的开销。对于MCA的基本组成部分，我们不仅开发了一种自适应组合机制，用于合并挤压变换中的双跨维度特征响应，增强特征描述符的信息性和可辨别性，而且还设计了激励变换中的
YOLOv10改进，YOLOv10添加iRMB注意力机制(反向残差注意力)，实现轻量化
weixin_44779079的博客
08-21 237
iRMB重新参考MobileNetv2中的反向残差块，并结合Transformer中的核心MHSA和FFN模块，归纳出一个通用的Meta Mobile Block（MMB），该模块采用参数化参数扩展比λ和高效操作符F来实例化不同的模块。MMB可以揭示上述三个模块的一致本质表达，并且MMB可以被视为改进的轻量级Transformer集中体，EMO只包含一个推导出的iRMB，吸收了轻量级CNN和Transformer的优势。以尽量少的核心模块，以减少模型复杂性并加速部署，达到轻量化效果。
YOLOv8改进 | 注意力机制 | 添加TripletAttention三重注意力机制（附代码+机制原理+添加教程）
Snu77的博客
12-06 4675
本文给大家带来的改进是Triplet Attention三重注意力机制。这个机制，它通过三个不同的视角来分析输入的数据，就好比三个人从不同的角度来观察同一幅画，然后共同决定哪些部分最值得注意。三重注意力机制的主要思想是在网络中引入了一种新的注意力模块，这个模块包含三个分支，分别关注图像的不同维度。比如说，一个分支可能专注于图像的宽度，另一个分支专注于高度，第三个分支则聚焦于图像的深度，即色彩和纹理等特征。这样一来，网络就能够更全面地理解图像内容，就像是得到了一副三维眼镜，能够看到图片的立体效果一样。
【YOLOv8改进 - 注意力机制】NAM：基于归一化的注意力模块，将权重稀疏惩罚应用于注意力机制中，提高效率性能
专注于图像领域，主要研究内容包括计算机视觉和深度学习，特别是在图像分类、目标检测和图像生成等方面有深入的研究和实践经验。
06-30 203
识别较不显著的特征是模型压缩的关键。然而，这在革命性的注意力机制中尚未被研究。在这项工作中，我们提出了一种新颖的基于归一化的注意力模块（NAM），该模块抑制了较不显著的权重。它对注意力模块施加了权重稀疏惩罚，从而使其在保留相似性能的同时变得更具计算效率。在Resnet和Mobilenet上与其他三种注意力机制的比较表明，我们的方法可以带来更高的准确性。本文的代码可以在https://github.com/Christian-lyc/NAM公开获取。
YOLOv10改进教程|C2f-CIB加入注意力机制
深度学习炼丹师，偶尔分享炼丹技术!
07-01 2268
将yolov10n.yaml文件中的C2fCIB替换为C2fCIBAttention。在nn.models.__init__.py中声明 C2fCIBAttention。在train.py脚本中填入yolov10n.yaml路径，运行即可训练。打开ultralytics->nn->tasks.py，如图所示操作。并在上方声明C2fCIBAttention类。
YOLOv10改进 | 注意力篇 | YOLOv10改进CBAM注意力机制
tsg6698的博客
06-11 3206
模块首先应用通道注意力，关注"重要的"特征，然后应用空间注意力，关注这些特征的"重要位置"。到此本文的正式分享内容就结束了，在这里给大家推荐我的YOLOv10改进有效涨点专栏，后期我会根据各种最新的前沿顶会进行论文复现，也会对一些老的改进机制进行补充，如果大家觉得本文帮助到你了，订阅本专栏，关注后续更多的更新~新建一个yolov10nCBAM.yaml文件后，在Backbone部分添加了CBAM注意力机制，大家可以在其他地方多尝试。在CBAM.py文件里添加给出的CBAM代码。模型结构打印，成功运行。
yolov8注意力机制加到C2F
09-17
根据引用内容，你可以将注意力机制加到yolov8的C2F模块中。具体的添加方式有两种。第一种方式是在c2f模块的不同位置添加注意力机制的代码。你可以在ultralytics/nn/modules.py中修改c2f模块，将注意力机制的代码加入到对应的位置。第二种方式是在下方位置添加代码，具体的代码添加方式可以参考引用中的示例。需要注意的是，在添加注意力模块后，可能会出现输出错误的情况，不是所有的注意力机制都能直接加入，需要进行多次尝试。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值