YOLOv9改进策略：注意力机制 | 动态稀疏注意力的双层路由方法BiLevelRoutingAttention | CVPR2023

已于 2024-03-30 22:52:27 修改
阅读量1.5k 收藏 13
点赞数 15
CC 4.0 BY-SA版权
分类专栏： YOLOv9魔术师 文章标签： YOLO 目标检测 人工智能 算法 计算机视觉
于 2024-03-26 20:28:51 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_63774211/article/details/137043685
本文介绍了YOLOv9框架，并探讨了BiLevelRoutingAttention，一种动态稀疏注意力的双层路由方法，特别适合小目标检测。通过对YOLOv9的改进，结合BiLevelRoutingAttention，可以在保留细节信息的同时减少计算量。作者提供了代码实现和详细步骤，帮助读者理解并实践网络魔改。

  💡💡💡本文改进内容： CVPR2023 动态稀疏注意力的双层路由方法BiLevelRoutingAttention，强烈推荐，涨点很不错，同时被各个领域的魔改次数甚多，侧面验证了性能。

  💡💡💡BiLevelRoutingAttention对小目标检测效果比较好：BRA模块是基于稀疏采样而不是下采样，一来可以保留细粒度的细节信息，二来同样可以达到节省计算量的目的。​​​​​​

 改进结构图如下：

YOLOv9魔术师专栏

☁️☁️☁️☁️☁️☁️☁️☁️☁️☁️☁️☁️☁️☁️☁️☁️☁️☁️ ☁️☁️☁

了解本专栏 订阅专栏 解锁全文
【RT-DETR有效改进】双层路由注意力机制 | 适合多种检测场景的BiFormer(Bi-level Routing Attention)
Snu77的博客
02-18 2228
BiFormer是一种结合了的视觉Transformer模型，BiFormer模型的核心思想是引入了双层路由注意力机制。在BiFormer中，每个图像块都与一个位置路由器相关联。这些位置路由器根据特定的规则将图像块分配给上层和下层路由器。上层路由器负责捕捉全局上下文信息，而下层路由器则负责捕捉局部区域的细节。具体来说，上层路由器通过全局自注意力机制对所有图像块进行交互，并生成全局图像表示。下层路由器则使用局部自注意力机制对每个图像块与其邻近的图像块进行交互，并生成局部图像表示。
YOLOv8血细胞检测（8）： BiLevelRoutingAttention基于动态稀疏注意力构建高效金字塔网络架构，对小目标涨点明显 | CVPR 2023 BiFormer
①答疑群聊服务；②YOLO大模型知识问答系统；③计算机视觉论文生成智能体；
10-09 394
BiLevelRoutingAttention| 亲测在血细胞检测项目中涨点，map@0.5 从原始0.895提升至0.910
YOLOv8改进 添加动态稀疏注意力机制BiLevelRoutingAttention
分享一些自己改进代码的实例
12-31 1766
手把手教你在yolov8原结构中加入动态稀疏注意力机制BiLevelRoutingAttention，可以根据数据包的不同特征动态地选择最合适的路径，从而提高网络性能和效率。助力涨点！！！！！！
【保姆级教程|YOLOv8改进】【4】添加双层路由注意力机制：BiLevelRoutingAttention，性能和效率十分不错
阿旭的博客
01-31 5248
【保姆级教程|YOLOv8改进】【4】添加双层路由注意力机制：BiLevelRoutingAttention，性能和效率十分不错
【论文笔记】BiFormer: Vision Transformer with Bi-Level Routing Attention
AI爱好者的博客，分享计算机领域相关知识
12-26 2753
vision transformer中Attention是极其重要的模块，但是它有着非常大的缺点：计算量太大。BiFormer提出了Bi-Level Routing Attention，在Attention计算时，只关注最重要的token，由此来降低计算量。
YOLOv10涨点改进：注意力魔改 | 动态稀疏注意力的双层路由方法BiLevelRoutingAttention | CVPR2023
①答疑群聊服务；②YOLO大模型知识问答系统；③计算机视觉论文生成智能体；
05-29 1844
替换YOLOv10中的PSA进行二次创新，1）BRA注意力替换 PSA中的多头自注意力模块MHSA注意力；2） BRA直接替换 PSA；
YOLOv13改进：注意力机制 | 动态稀疏注意力的双层路由方法BiLevelRoutingAttention | CVPR2023
最新发布
①答疑群聊服务；②YOLO大模型知识问答系统；③计算机视觉论文生成智能体；
07-07 1045
BiLevelRoutingAttention方法对小目标检测效果比较好。可能是因为BRA模块是基于稀疏采样而不是下采样，一来可以保留细粒度的细节信息，二来同样可以达到节省计算量的目的。
YOLOv10改进：注意力系列篇 | 动态稀疏注意力（BiLevelRoutingAttention） | CVPR2023
会AI的学姐
06-12 587
动态稀疏注意力（BiLevelRoutingAttention），实现更灵活的计算分配和内容感知，使其具备动态的查询感知稀疏性，改进方法：1）动态稀疏注意力替换 PSA中的多头自注意力模块MHSA注意力；2） 动态稀疏注意力直接替换 PSA；
YOLOv12涨点优化：注意力魔改 | 动态稀疏注意力的双层路由方法BiLevelRoutingAttention | CVPR2023
①答疑群聊服务；②YOLO大模型知识问答系统；③计算机视觉论文生成智能体；
02-28 196
 BiLevelRoutingAttention方法对小目标检测效果比较好
RT-DETR算法优化改进：一种新颖的动态稀疏注意力(BiLevelRoutingAttention) | CVPR2023
①答疑群聊服务；②YOLO大模型知识问答系统；③计算机视觉论文生成智能体；
11-13 1144
一种新颖的动态稀疏注意力BiLevelRoutingAttention；1）代替RepC3进行使用；2）BiLevelRoutingAttention直接作为注意力进行使用；
【Transformer论文解读】TRAR: Routing the Attention Spans in Transformer for Visual Question Answering
SiranTang的博客
06-11 1127
Transformer论文解读
BGF-YOLO ：双层路由注意力（BRA）、广义特征金字塔网络（GFPN）和多头检测头融入到YOLOv8，实现暴力涨点
会AI的学姐
10-21 1933
一种新颖的 BGF-YOLO 架构，将双层路由注意力（BRA）、广义特征金字塔网络（GFPN）和第四检测头融入 YOLOv8 中
[解读] Capsules with Inverted Dot-Product Attention Routing
天在那边
06-21 984
本文提出一种新的胶囊网络路由算法, 主要有以下三个亮点: 首先通过一个反向的点积注意力来设计路由, 其次使用层规范化方法, 最后使用并发迭代路由的方法来取代序列式的迭代. 论文链接: https://arxiv.org/abs/2002.04764v2 开源代码: https://github.com/apple/ml-capsules-inverted-attention-routing https://github.com/yaohungt/Capsules-Inverted-Attention-Rou
编码器的稀疏注意力块（ProbSparse Self-Attention Block）
m0_51200050的博客
06-19 2128
稀疏注意力块是Informer模型的核心组件之一，旨在高效处理长时间序列数据。它通过稀疏自注意力机制（ProbSparse Self-Attention）显著降低计算复杂度，同时保持较高的性能。
(即插即用模块-Attention部分) 五十二、(CVPR 2023) TKSA Top-K稀疏注意力
wei582636312的博客
02-20 1752
标准 Transformer 中的自注意力机制在图像去雨任务中存在一些局限性：全局信息交互：标准自注意力对所有查询-键对进行计算，容易引入无关信息，干扰特征聚合，影响图像细节恢复。冗余特征：全连接计算模式放大了较小的相似度权重，导致特征交互和聚合过程易受噪声影响，产生冗余或不相关的特征表示。为了解决这些问题，这篇论文提出一种 Top-k稀疏注意力（Top-K Sparse Attention）。
深度学习中的稀疏注意力
热门推荐
不要给自己设限，尝试更多可能（思所向 皆可往）
01-07 2万+
稀疏注意力的实现并不仅限于DeepSpeed。虽然DeepSpeed提供了一种高效的稀疏注意力实现，但其他深度学习框架和库也可能提供稀疏注意力的支持。例如，Hugging Face的Transformers库就包含了一些稀疏注意力的实现，如Longformer和BigBird。
Transformer优化之稀疏注意力
雨石
10-01 8420
最近要开始使用Transformer去做一些事情了，特地把与此相关的知识点记录下来，构建相关的、完整的知识结构体系。 以下是要写的文章，文章大部分都发布在公众号【雨石记】上，欢迎关注公众号获取最新文章。 Transformer:Attention集大成者 GPT-1 & 2: 预训练+微调带来的奇迹 Bert: 双向预训练+微调 Bert与模型压缩 Bert与模型蒸馏：PKD和DistillBert ALBert: 轻量级Bert TinyBert: 模型蒸馏的全方位应用 MobileBert:
YOLOv8改进：注意力系列篇 | 动态稀疏注意力（BiLevelRoutingAttention） | CVPR2023
会AI的学姐
10-14 1947
动态稀疏注意力（BiLevelRoutingAttention），实现更灵活的计算分配和内容感知，使其具备动态的查询感知稀疏性，引入到YOLOv8，1）与C2f结合实现二次创新；2）注意力机制使用；
【论文阅读及代码实现】BiFormer: 具有双水平路由注意的视觉变压器
川川自溢的博客
05-28 1万+
【论文阅读及代码实现】BiFormer: 具有双水平路由注意的视觉变压器
CVPR2023新注意力机制显著提升YOLO系列性能
而本次CVPR2023提出的注意力机制则针对这些问题进行了系统性改进，主要体现在三个方面：**更高效的注意力计算方式、多尺度注意力融合策略以及动态注意力权重机制**。 首先，在“更高效的注意力计算方式”方面，新...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

AI小怪兽

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值