YOLOv11 改进 - 注意力机制 | ESC (Emulating Self-attention with Convolution) 卷积模拟自注意力：增强小目标与密集场景检测

已于 2025-12-09 20:33:51 修改
阅读量655 收藏 13
点赞数 25
CC 4.0 BY-SA版权
分类专栏： 最新YOLOv11改进专栏 文章标签： YOLO cnn 人工智能 深度学习 目标检测
于 2025-11-29 09:50:11 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/yolochangeworld/article/details/155377736
部署运行你感兴趣的模型镜像

前言

本文提出了卷积模拟自注意力网络（ESC），并将其与YOLOv11相结合。ESC是针对图像超分辨率任务设计的轻量化网络，核心为ConvAttn模块，通过共享大核与动态核模拟自注意力的长程建模和实例依赖加权。同时，首次将Flash Attention集成到轻量化超分辨率领域，扩大自注意力窗口尺寸，降低延迟和内存占用。我们将C3k2_ESC模块集成进YOLOv11，在相关数据集上进行实验，结果表明，该结合方式在保持Transformer优势的同时，提升了PSNR，降低了计算延迟和内存占用。

文章目录： YOLOv11改进大全：卷积层、轻量化、注意力机制、损失函数、Backbone、SPPF、Neck、检测头全方位优化汇总

专栏链接: YOLOv11改进专栏

介绍

image-20251129093227665

<

您可能感兴趣的与本文相关的镜像

Yolo-v8.3

Yolo-v8.3

Yolo

YOLO（You Only Look Once）是一种流行的物体检测和图像分割模型，由华盛顿大学的Joseph Redmon 和Ali Farhadi 开发。 YOLO 于2015 年推出，因其高速和高精度而广受欢迎

了解本专栏 订阅专栏 解锁全文
【图像超分】论文精读：Emulating Self-attention with Convolution for Efficient Image Super-Resolution（ESC）
主要更新底层视觉（去噪、超分等）相关的科研内容，形式为【论文精读】+【论文复现】
05-18 738
本文提出了一种轻量级图像超分辨率（SR）方法，通过卷积模拟自注意力机制，显著降低了计算成本和内存使用。传统的变压器模型在SR任务中表现出色，但其自注意力机制导致高计算复杂度和内存开销。为解决这一问题，本文提出了卷积注意力模块（ConvAttn），该模块利用共享的大内核和动态内核来模拟自注意力的远程建模能力和实例相关权重，从而减少对自注意力的依赖。此外，通过集成闪存注意力，进一步优化了内存使用，允许将窗口大小扩展到32×32，显著提升了性能。实验结果表明，所提出的ESC网络在保持变压器表示能力的同时，显著降低
YOLO11首发优化：Transformer创新 | 卷积化自注意力，共享大卷积核和动态卷积核，引入Flash Attention高效涨点| ICCV2025
①答疑群聊服务；②YOLO大模型知识问答系统；③计算机视觉论文生成智能体；
07-22 931
如何与YOLO11结合：C3k2与ESCBlock创新性结合
YOLO11 改进、魔改｜基于卷积模拟自注意力ESC，以卷积模拟自注意力，增强对小目标、密集目标的特征表征能力
qq_64693987的博客
07-15 1761
本文针对图像超分辨率(SR)任务中Transformer模型效率低下的问题，提出ESC(Emulating Self-attention with Convolution)解决方案。ESC通过分析发现自注意力层间特征相似度高达87%-89%，设计出用大核卷积模拟长距离依赖、动态卷积模拟输入依赖性的高效替代模块。该方案结合FlashAttention技术，在保持性能优势的同时显著降低内存占用和延迟（如SwinIR-light延迟降低4.7倍）。
Emulating Self-attention with Convolution for Efficient Image Super-Resolution——通过卷积模拟自注意力实现高效图像超分辨率
Together_CZ的博客
11-30 2000
Emulating Self-attention with Convolution for Efficient Image Super-Resolution——通过卷积模拟自注意力实现高效图像超分辨率
YOLO12 改进、魔改｜基于卷积模拟自注意力ESC，捕捉全局上下文依赖，提升 对小目标、密集目标的检测精度
qq_64693987的博客
07-15 878
本文提出ESC（Emulating Self-attention with Convolution）方法，用于解决图像超分辨率任务中Transformer架构的计算开销大、内存访问频繁等问题。ESC通过卷积模拟自注意力的关键能力：使用共享大核卷积处理长距离交互，动态生成深度卷积核实现输入依赖加权，并整合FlashAttention技术提升效率。该方法在保持Transformer表征能力的同时显著降低资源消耗，适用于轻量化SR任务。此外，研究还探讨了ESC在目标检测和语义分割领域的应用潜力，以及与YOLO结合
ICCV 2025 | 轻量级SR神器：ConvAttn用卷积重塑自注意力，即插即用，涨点起飞！
AImokuai的博客
09-26 899
本文提出了一种高效卷积注意力模块(ConvAttn)，通过共享大核卷积和动态小核卷积模拟自注意力机制，实现轻量级图像超分辨率。ConvAttn创新性地结合静态大核卷积捕获长距离依赖，以及输入依赖的动态卷积实现自适应加权，在保持Transformer强大表征能力的同时显著降低计算开销。该模块可即插即用于各类视觉任务，测试显示在256×256输入下仅需32通道即可高效运行。
YOLOv11改进大全：卷积层、轻量化、注意力机制、损失函数、Backbone、SPPF、Neck、检测头全方位优化汇总
最新发布
2508_94691702的博客
12-18 417
YOLOv11改进大全：卷积层、轻量化、注意力机制、损失函数、Backbone、SPPF、Neck、检测头全方位优化汇总
YOLOv12创新改进 | 独家创新，注意力改进篇 | ICCV 2025 | YOLOv12引入 ConvAttn卷积化注意力，以更轻量的方式模拟自注意力的效果，含A2C2f二次创新，助力有效涨点
Ai缝合怪、助力小伙伴高效发论文
11-05 74
本文提出ConvAttn卷积化注意力模块，用于改进YOLOv12目标检测模型。该模块通过共享大核卷积和动态卷积核模拟自注意力的长程建模能力，在降低计算开销的同时保持性能优势。实验表明，ConvAttn模块能有效降低16倍延迟和12.2倍内存使用，在Urban100×2上PSNR提升0.31dB。文章详细介绍了模块结构、核心代码实现方法，并提供了三种改进YOLOv12的配置方案，包括骨干网络和检测头的ConvAttn嵌入方式。该改进方法可显著提升模型效率，适用于资源受限的部署场景。
【DEIM创新改进】全网独家注意力创新改进篇 | ICCV 2025 | DEIM引入ConvAttn卷积化注意力，以更轻量的方式模拟自注意力的效果，含多种deim不同基准改进点，助力目标检测有效涨点
Ai缝合怪、助力小伙伴高效发论文
10-30 104
本文提出ConvAttn模块，通过共享大卷积核和动态卷积核模拟自注意力机制的长程建模能力，显著降低计算开销。ConvAttn包含13×13共享大卷积核（模拟全局依赖）和3×3动态卷积核（实现输入自适应），在保持性能的同时将延迟和内存使用分别降低16倍和12.2倍。该模块通过通道拆分、动态核生成和特征融合等操作，高效替代传统自注意力，特别适用于轻量级图像超分任务。实验表明，在Urban100数据集上PSNR提升0.31dB，验证了其有效性。
YOLOv11香烟包装印章智能识别系统：从原理到实现完整指南
ASD123asfadxv的博客
12-15 116
This repository contains an automated system for detecting stamps on cigarette packages. The project focuses on image processing and pattern recognition to identify regulatory stamps on tobacco product packaging. The solution is designed to help verify pro
【YOLOX改进】水下管道与缆绳检测识别：基于yolox_m_8xb8-300e_coco模型的优化实践
Piar1231sdafa的博客
12-15 1029
本文提出了一种改进的YOLOX水下目标检测方法，通过构建专用数据集（59张图像，含管道和缆绳两类目标）并针对水下环境特点进行优化。方法采用YOLOX-m作为基础模型，结合HSV色彩转换、CLAHE增强等预处理技术，以及多尺度训练、难例挖掘等优化策略。实验表明，改进模型在测试集上达到92.6% mAP@0.5，比基线提升5.2%，在边缘设备上实现25FPS实时检测。该方法有效解决了水下图像退化、目标尺度变化等挑战，已成功应用于水下机器人视觉系统。
魔改YOLO13高阶版改进之结合C3k2与DySnakeConv电信天线设备检测
AAD55588899的博客
12-15 732
本文提出了一种改进的YOLO13模型，结合C3k2和DySnakeConv模块，用于电信天线设备检测。针对电信天线设备小目标、密集排列的特点，C3k2模块通过k-means优化卷积核增强特征提取能力，DySnakeConv模块动态调整感受野以适应不同形状设备。实验表明，改进后的模型在保持计算效率的同时，显著提升了小目标检测精度，适用于复杂环境下的电信设备检测任务。
Ultralytics YOLO11常见的问题以及解决方法
Do my best!
12-16 485
解决方案:坐标格式：YOLO11 以绝对像素值提供边界框坐标。要将这些转换为相对坐标（范围从 0 到 1），你需要除以图像尺寸。例如，假设你的图像大小为 640x640。然后你将执行以下操作：文件名：要获取你正在预测的图像的文件名，请直接从预测循环中的结果对象访问图像文件路径。
Linux下Mamba-YOLO复现
weixin_45755222的博客
12-15 310
本文提供了在Linux+CUDA12.4环境下复现Mamba-YOLO项目的详细指南。关键步骤包括：克隆项目代码、创建Python3.11的Conda环境、安装PyTorch2.3.0(CUDA12.1版本)、安装依赖包、编译selective_scan模块(需注意解决torch模块缺失问题)以及最终安装项目。文章还分享了常见报错解决方案，如RuntimeError和ModuleNotFoundError等。整个过程经过作者一周的实践验证，可帮助开发者避免重复踩坑。
城市交通多目标检测系统：YOLO11-MAN-FasterCGLU算法优化与实战应用_3
Dingdangcat86的博客
12-18 651
本文提出了一种基于YOLO11优化的城市交通多目标检测系统YOLO11-MAN-FasterCGLU，通过多尺度特征融合技术和MAN注意力机制提升检测性能。该方法采用自适应特征选择机制动态调整不同尺度特征的权重，并引入并行注意力分支增强小目标检测。实验表明，相比原始YOLOv11，mAP提升4.2%至86.5%，同时保持40FPS的实时性能。系统已成功部署于城市交通监控，结合边缘计算架构实现高效处理。未来计划引入多模态数据融合和半监督学习进一步优化系统性能。
YOLOv5-ASF-P2：果蝇性别识别与分类实战指南_1
adaAS1414315的博客
12-17 645
本文介绍了基于改进YOLOv5架构的果蝇性别识别系统YOLOv5-ASF-P2。该系统通过优化的CSPDarknet骨干网络和增强型PANet，显著提升了对果蝇小目标的特征提取能力。项目采用包含10,000张标注图像的数据集，通过随机翻转、旋转和亮度调整等数据增强方法提高模型泛化性。系统采用多任务损失函数，整合分类、定位和性别识别任务，实现了高精度果蝇性别分类。实验结果表明，该方法的识别准确率较基线模型提升8.5%，为生物学研究提供了高效可靠的自动化性别识别解决方案。
基于yolov11s模型训练与推理测试（VScode开发环境）
q544344318的博客
12-13 323
本文详细介绍了在VSCode中配置Python虚拟环境并运行YOLOv11目标检测模型的完整流程。首先通过创建Python3.8.20虚拟环境，下载YOLOv11源码并安装依赖包。接着训练模型生成best.pt权重文件，最后使用测试图像进行推理，在指定目录生成检测结果。整个过程包括环境配置、代码获取、依赖安装、模型训练和推理测试等关键步骤，为基于YOLOv11的目标检测项目开发提供了完整参考。
YOLO11-ReCalibrationFPN-P345实现酒液品牌识别与分类_1
adaAS1414315的博客
12-17 670
本文提出了一种基于改进YOLOv11架构的酒液品牌识别系统YOLO11-ReCalibrationFPN-P345。该系统通过引入ReCalibration机制和优化特征金字塔网络，显著提升了小目标检测能力，在酒液品牌识别任务中达到90.3%的mAP准确率。文章详细介绍了模型架构、数据集构建、训练优化策略以及实时系统部署方案。实验结果表明，该系统在不同光照条件下均保持良好性能，可广泛应用于零售库存管理、防伪验证等场景。未来将进一步扩展多品类识别、价格识别等功能，为零售行业提供更完整的智能化解决方案。
基于YOLO的小目标检测增强：一种提升精度与效率的新框架
AI浩
12-13 880
本文研究并开发了在大规模航拍图像中检测小目标的方法。当前航拍图像中的小目标检测方法通常涉及图像裁剪和检测器网络架构的修改。滑动窗口裁剪以及包括更高分辨率特征图和注意力机制在内的架构增强技术是常用的方法。鉴于航拍图像在各种关键和工业应用中的重要性日益增长，构建鲁棒的小目标检测框架变得势在必行。为满足这一需求，我们采用基础的SW-YOLO方法，通过优化滑动窗口的裁剪尺寸和重叠率来提升小目标检测的速度和精度，并随后通过架构修改对其进行增强。
Turbo C 4.0: DOS Memory Management and Floating-Point Options
"这篇文档是关于Turbo C的相关资料，它提到了Turbo C的版本信息以及与Acrobat Reader的交互指南。文档还包含了版权信息，指出Borland International可能拥有与此文档内容相关的专利和待审批专利，并声明提供文档并不...
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

魔改工程师

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值