YOLO11改进|注意力机制篇|引入局部注意力HaloAttention

最新推荐文章于 2025-05-02 17:41:12 发布
最新推荐文章于 2025-05-02 17:41:12 发布
阅读量1.4k 收藏 27
点赞数 14
分类专栏： YOLO11改进专栏 文章标签： YOLO
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/A1983Z/article/details/142829072
版权

在这里插入图片描述

目录

一、【HaloAttention】注意力机制

1.1【HaloAttention】注意力介绍

在这里插入图片描述

下图是【HaloAttention】的结构图，让我们简单分析一下运行过程和优势

处理过程：

  • 图像分块：

  • 输入图像大小为 4×4×𝑐，其中 𝑐
    是通道数。该图像首先被分割为多个小块（如图所示被分为 4 个 2×2×𝑐的小块），每个块称为一个“block”。

了解本专栏 订阅专栏 解锁全文 超级会员免费看
即插即用篇 | YOLOv8引入局部自注意力 HaloAttention | 为参数高效的视觉主干网络扩展局部自注意力
YOLOv8项目贡献者
05-11 1522
局部自注意力 HaloAttention
【YOLO11改进 - 注意力机制】HaloNet通过局部自注意力机制(Local Self-Attention)来捕捉空间交互
专注于图像领域，主要研究内容包括计算机视觉和深度学习，特别是在图像分类、目标检测和图像生成等方面有深入的研究和实践经验。
01-05 308
【YOLO11改进 - 注意力机制】HaloNet通过局部自注意力机制(Local Self-Attention)来捕捉空间交互
【6-4】YOLOv10添加【Axial Attention】【HaloAttention】等注意力机制 【超30种先进模块随心选】【注意力机制篇】
up主为在读研究生，从事cv研究4余年，绝对靠谱。
07-04 1158
Axial Attention 是一种高效的注意力机制，专门设计用于多维数据如图像和视频。它通过分解高维注意力操作，分别在各个轴上执行，从而减少计算复杂度并提高模型的效率。Axial Attention 的核心思想是将多维注意力分解为一系列一维的注意力操作，这样可以显著降低计算成本，同时保持全局上下文信息的捕获能力。对于一个二维特征图（例如图像），Axial Attention 分别在水平轴和垂直轴上计算注意力。
YOLO11改进-Backbone-引入OverLoCK替换YOLO backbone 融合自上而下注意力机制，实现高效的长程依赖建模与局部细节捕捉，同时平衡计算复杂度与性能
qq_64693987的博客
04-23 1363
OverLoCK 的理论核心是模拟人类视觉系统的自上而下注意力机制Base-Net提取中低层特征，通过粗粒度全局建模生成动态语义先验（模拟 “先概览” 过程），Focus-Net在全局先验引导下进行精细化特征感知（模拟 “后精修” 过程）。结合上下文混合动态卷积（ContMix），通过计算输入特征与全局区域中心的亲和度生成动态卷积核，使每个像素的卷积操作融合全局语义信息，既突破传统卷积的固定核限制以建模长程依赖，又保留局部归纳偏置捕捉细节。
YOLO11改进-注意力-引入前景注意力Outlook attention
qq_64693987的博客
12-25 1307
Outlook attention 是一种新的注意力机制，用于视觉识别任务，旨在有效编码细粒度特征和上下文信息到 token 表示中，提升模型性能。Outlook Attention 的核心目标是有效地捕捉局部细粒度特征。在传统的自注意力机制中，往往侧重于粗粒度级别的全局依赖建模，而可能忽略了局部特征的重要性。Outlook Attention 通过在局部窗口内进行操作，能够更好地编码局部的细粒度特征和上下文信息。
LFA-ConvLSTM：可解释的局部注意力机制用于多步交通流预测
zuiyishihefang的博客
04-19 1275
1 文章信息文章题为“Interpretable local flow attention for multi-step traffic flow prediction”，是一篇发表于Neural Networks期刊上关于交通流多步预测的文章。文章源码可以在：https://github.com/hub5/LFAConvLSTM获得。2 摘要在过去的几年里，基于神经网络的方法在交通流预测（TFP...
halonet-pytorch:本文中tention注意层的实现，为参数有效的视觉主干缩放局部自注意
03-25
HaloNet-火炬 本文的注意力层的实现，。 该存储库将仅容纳关注层，而不会包含更多内容。 安装 $ pip install halonet-pytorch 用法 import torch from halonet_pytorch import HaloAttention attn = HaloAttention ( dim = 512 , # dimension of feature map block_size = 8 , # neighborhood block size (feature map must be divisible by this) halo_size = 4 , # halo size (block receptive field) dim_head = 64 , # dimension of
YOLO11有效改进专栏目录
A1983Z的博客
10-14 1772
YOLO11改进专栏导航
检测头篇 | 原创自研 | YOLOv8 更换光晕自注意力 Halo 头 | 附详细结构图
YOLOv8项目贡献者
05-22 1383
光晕自注意力 Halo 头
YOLO11改进 | 注意力机制 | 添加多种注意力机制，开箱即用
kay_545
10-17 2749
yolo11改进，yolo11，yolo11添加多种注意力机制
YOLOv11结合注意力机制——SE注意力机制
最新发布
weixin_62475403的博客
05-02 629
YOLOv11添加SE注意力机制
HaloNet - 开启视觉处理新纪元的高效注意力层
gitblog_00262的博客
08-19 1024
HaloNet - 开启视觉处理新纪元的高效注意力层 halonet-pytorch项目地址:https://gitcode.com/gh_mirrors/ha/halonet-pytorch 在深度学习领域，尤其是在视觉任务中，模型的效率与效果一直是研究的热点。今天，我们要为大家推荐一个创新的开源项目 —— HaloNet。该项目基于论文《Scaling Local Self-Attentio...
YOLO11改进|注意力机制篇|引入注意力机制Shuffle Attention
A1983Z的博客
10-13 1122
YOLO11中添加Shuffle Attention注意力机制
YOLO11改进|注意力机制篇|引入三重注意力机制Triplet Attention
A1983Z的博客
10-13 1291
YOLO11中添加三重注意力机制TripletAttention
YOLO11改进-模块-引入极性感知注意力 Polarity-Aware Attention
qq_64693987的博客
02-25 1314
在传统的模型注意力机制里，就好比我们看东西只看一半。它常常会把一些带有 “负” 含义的信息丢掉，只留下 “正” 信息。比如说，在判断两个事物的关系时，只关注它们相似、匹配的地方，而忽略了它们之间不匹配、相反的部分。极性感知注意力就改进了这一点，它把每个信息（查询向量和键向量）都拆成 “正” 和 “负” 两个部分。这样一来，模型在计算两个信息之间的关系时，不仅会考虑它们相同符号（比如都为正或者都为负）部分的相似程度，还会考虑不同符号（一个正一个负）部分的相互作用。
YOLO11改进-模块-引入空间带状注意力机制（Spatial Strip Attention，SSA）增强模型对空间信息处理能力的重要模块
qq_64693987的博客
03-19 1060
SSA 基于注意力机制的思想，通过对输入特征图的不同空间位置赋予不同的权重，使模型能够有选择性地关注重要的空间区域。它利用轻量级的计算模块来生成注意力权重，避免了自注意力机制中过高的计算成本，同时能在水平和垂直方向上扩大感受野，有效聚合相邻位置的信息，从而更好地捕捉空间上下文。生成水平方向注意力权重：先在水平方向选取大小为 1×K 的带状区域，对其进行全局平均池化（GAP）操作，将特征压缩。接着通过一个卷积层（Conv）和 Sigmoid 函数，生成水平方向的注意力权重。水平方向信息聚合。
【YOLOv11改进- 注意力机制】YOLOv11+PKINet中注意力机制（2024）: 最新遥感场景下注意力机制,助力YOLOv11有效涨点；
qq_41304809的博客
02-01 351
本文给大家带来的改进内容是在YOLOv11中添加PKINet中的CAA注意力机制，助力YOLOv11有效涨点，尤其是在遥感领域以及无人机目标检测领域内。作者提出了PKINet采用多尺度卷积核（无需空洞）来提取不同尺度的目标特征并捕捉局部上下文信息。此外，还并行引入了上下文锚点注意力（CAA）模块，以捕捉长距离的上下文信息。
YOLO11改进|注意力机制篇|引入并行分块注意力机制PPA
A1983Z的博客
10-06 1576
YOLO11中添加并行分块注意力机制PPA
yolo11改进注意力机制
03-16
### YOLOv11中的注意力机制改进及其对模型性能的影响 #### ACmix自注意力与卷积混合模型 YOLOv11引入了ACmix自注意力与卷积混合模型，该模型的核心思想在于通过1×1卷积实现传统卷积操作和自注意力模块的主要计算部分。具体而言，ACmix首先利用1×1卷积对输入特征图进行投影，生成一组中间特征。随后，基于不同的范式——即自注意力和卷积方式——重新使用并聚合这些中间特征[^1]。这种方式不仅保留了自注意力机制的全局感知能力，还借助卷积捕获局部特征，从而在降低计算成本的同时提升了模型的整体性能。 此外，为了进一步优化模型效果，YOLOv11提出了二次创新C2PSA机制作为ACmix的改进版本。这一机制旨在更高效地处理复杂的特征交互关系，进而增强模型对于目标对象细节的理解能力和区分度。 #### MSECA注意力机制 除了ACmix外，YOLOv11还集成了MSECA（Multi-Scale Enhanced Channel Attention）模块以强化其注意力建模能力。MSECA具有两项突出特性： 1. **数据自适应尺度调整**：MSECA可以根据输入数据的特点动态改变关注的重点区域。这意味着当面对不同分布的数据时，它能够灵活调整各尺度卷积输出之间的相对权重分配，减少由于数据多样性引发的性能波动问题[^2]。 2. **任务驱动参数微调**：针对特定的任务场景（如图像分类或目标检测），可以通过调节MSECA内部多尺度参数（例如核尺寸组合）来满足实际应用需求。这样的设计使得YOLOv11能够在多种复杂环境下均表现出优异的效果，并且具备更强的泛化性和鲁棒性。 #### LSK注意力机制 最后值得一提的是，YOLOv11也尝试融入了LSK（Local Spatial Knowledge）注意力机制作为一种补充方案。LSK主要侧重于挖掘空间上的局部关联信息，有助于加强网络对细粒度模式的学习能力。尽管具体内容未详尽描述，但从已有资料推测，这可能涉及到了解耦合通道间依赖以及细化位置编码等方面的工作[^3]。 综上所述，通过对上述几种先进注意力技术的有效整合运用，YOLOv11成功实现了从多个维度全面提升检测精度的目标，同时也兼顾了运行效率方面的考量。 ```python import torch.nn as nn class ACmix(nn.Module): def __init__(self, channels=64, kernel_size=3): super(ACmix, self).__init__() self.conv1x1 = nn.Conv2d(channels, channels, 1) def forward(self, x): proj_features = self.conv1x1(x) # 投影生成中间特征 attention_output = ... # 自定义实现自注意力逻辑 conv_output = ... # 卷积操作路径 output = attention_output + conv_output # 聚合两种结果 return output ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值