【RT-DETR有效改进】利用EMAttention加深网络深度提高模型特征提取能力（特征选择模块）

已于 2024-02-17 12:12:12 修改
阅读量1.1k 收藏 14
点赞数 24
分类专栏： RT-DETR有效改进专栏 文章标签： 人工智能 深度学习 YOLO 目标检测 计算机视觉 RT-DETR python
于 2024-02-17 00:34:15 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/java1314777/article/details/136133946
版权

一、本文介绍

本文给大家带来的改进机制是EMAttention注意力机制，它的核心思想是，重塑部分通道到批次维度，并将通道维度分组为多个子特征，以保留每个通道的信息并减少计算开销。EMA模块通过编码全局信息来重新校准每个并行分支中的通道权重，并通过跨维度交互来捕获像素级别的关系。本文改进是基于ResNet18、ResNet34、ResNet50、ResNet101，文章中均以提供，本专栏的改进内容全网独一份深度改进RT-DETR非那种无效Neck部分改进，同时本文的改进也支持主干上的即插即用，本文内容也支持PP-HGNetV2版本的修改。

专栏目录： RT-DETR改进有效系列目录 | 包含卷积、主干、RepC3、注意力机制、Neck上百种创新机制 

了解本专栏 订阅专栏 解锁全文
Snu77
关注
  • 24
    点赞
  • 踩
  • 14
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 13
    评论
专栏目录
订阅专栏
RT-DETR+auto-train-detect+RTDETR-run
12-21
本文章基于客户一键训练与测试需求，我使用u公司的yolov8集成的RTDETR模型改成较为保姆级的``一键``操作的训练/预测方式，也特别适合新手或想偷懒转换数据格式的朋友们。本文一键体现数据格式为图像与xml，调用train.sh与detect.sh可完成模型的训练与预测。而为完成该操作，模型内嵌入xml转RTDETR的txt格式、自动分配训练/验证集、自动切换环境等内容。接下来，我将介绍如何操作，并附修改源码。 本文一个目的，傻瓜式训练与预测，通过sh脚本实现3个任务， ①、虚拟环境自动切换 ②、数据格式自动转换，输入为图像文件与对应xml文件自动完成rtdetr模型训练与预测数据格式 ③、模型自动训练与预测，且只需执行sh train.sh或 sh detect.sh即可实现
【高效炼丹】指数移动平均（EMA）：深度学习中的神器
luxu1220的博客
05-09 4569
EMA的本质是对历史数据进行加权平均，其中每个数据点的权重随着它距离当前时间点的远近而不断减小。这样做的好处是可以有效地平滑时间序列数据，使其更加连续和稳定。 在深度学习中，EMA被广泛应用于优化器的更新、模型参数的平均等方面，可以帮助提高模型的性能和泛化能力。同时，由于EMA的计算方式简单且易于实现，因此也是深度学习中常用的技巧之一。
rt-detr目标检测+python+tensorRT推理代码
06-28
该代码实现rt-detr的部署，使用python，调用tensorRT转换后的模型，实现单张图片或者图片文件夹批量推理，代码输入图片/文件夹路径，模型路径，输出图片保存路径，运行命令python ./infer_tensorrt.py --infer_dir=./inputimgs/ --output_dir ./outputimgs/ --models ./rtdetr_hgnetv2_l_6x_coco.trt，即可得到测试结果。
目标检测+PaddleDetection+rt-detr运行代码
06-28
该代码是百度的PaddleDetection代码，包含rt-detr配置文件和相关代码，可以直接用来测试
openvino部署-使用openvino部署RT-DETR部署-项目实战-附详细完整流程.zip
01-18
openvino部署_使用openvino部署RT-DETR部署_项目实战_附详细完整流程
Feature Selective Anchor-Free Module for Single-Shot Object Detection
weixin_36670529的博客
07-23 647
摘要 提出了一种简单有效的单阶段目标检测模块——特征选择无锚定(FSAF)模块。它可以插入到具有特征金字塔结构的单阶段检测器中。FSAF模块解决了传统基于锚点检测的两个局限性： 1)启发式引导的特征选择； 2)基于覆盖锚取样； FSAF模块的总体思想是将在线特征选择应用于多层无锚分支的训练。具体来说，一个无锚的分支被附加到特征金字塔的每一层，允许在任意一层以无锚的方式进行框编码和解码。在训......
【源码】基于Python的数据科学特征选择模块
weixin_42825609的博客
04-19 394
Jostar来自波斯语单词žستتااااا，是一个基于Python的特征选择模块，由九种不同的特征选择方法组成，从单目标方法到多目标方法，用于回归和分类任务。到目前为止，这些算法包括： 蚁群优化（ACO） 差分进化（DE） 遗传算法（GA） 正L负R（LRS） 非支配排序遗传算法（NSGAII） 粒子群优化（PSO） 模拟退火（SA） 顺序前向选择（SFS） 顺序反向选择（SBS） 特征 用户友好、类似Sklearn的界面（只需调用fit） 详细记录和解释超参数及其范围 轻松调整超参数 生成所选功能的排.
YOLO改进：添加多尺度特征提取模块Scale-Aware RFE Model
qq_36070656的博客
10-08 2530
RFEM的结构很简单，该结构使用了三个不同空洞率（1、2、3）的空洞卷积提取特征以提取多尺度信息；此外，不同分支共享权重减少参数量；另外，使用残差连接防止梯度爆炸的问题；最后，将四个分支的特征相加得到输出的特征层。
EMANet：Expectation-Maximization Attention Networks for Semantic Segmentation论文解读和代码解读
我的博客有点东西
09-17 9187
官方项目地址：含论文和代码 来自北大才子 立夏之光的 ICCV Oral ，理论很漂亮。属于Non local方式 idea 由于理论方面涉及了机器学习算法 - EM算法，博主虽然学过EM，但时间久远有些记不起，这篇论文吧博主看了很久，依然没能理解其精髓，但是不影响我会使用它（哈哈）。言归正传。 在语义分割中，越来越多Non local的方法出现了，并且都取得了精度上的进步，说明Non local...
RT-DETR：又快又好的ViT系列模型，拉开ViT实时化的序幕！
m0_63642362的博客
04-30 2754
针对工业场景下实时化检测的需求，我选用PaddleDetection团队新出的RT-DETR模型，相比之前训练的ViTDet系列模型，速度和精度都有一定的提升。
算法部署-使用TensorRT部署RT-DETR目标检测算法-优质算法部署项目实战.zip
03-06
算法部署_使用TensorRT部署RT-DETR目标检测算法_优质算法部署项目实战
【计算机视觉二】---图像特征提取
weixin_43504942的博客
05-26 3402
计算机视觉图像特征提取是指从图像中提取出具有代表性的特征，以便计算机能够更好地理解和处理图像。常用的特征提取方法包括边缘检测、角点检测、纹理分析、颜色直方图等。在深度学习领域，卷积神经网络（CNN）也被广泛应用于图像特征提取任务。通过CNN，可以自动学习出图像中具有代表性的特征，从而提高计算机视觉领域的各项任务的准确性。
【RT-DETR有效改进】轻量级下采样方法ContextGuided（参数量下降700W，轻量又涨点）
Snu77的博客
02-06 1962
本文给大家带来的是改进机制是一种替换Conv的模块，其是在CGNet论文中提出的一种模块，其基本原理是模拟人类视觉系统依赖上下文信息来理解场景。CG block 用于捕获局部特征、周围上下文和全局上下文，并将这些信息融合起来以提高准确性。本文改进是基于ResNet18、ResNet34、ResNet50、ResNet101，文章中均以提供，本专栏的改进内容全网独一份深度改进RT-DETR非那种无效Neck部分改进，同时本文的改进也支持主干上的即插即用，本文内容也支持PP-HGNetV2版本的修改。
RT-DETR算法优化改进：新颖的多尺度卷积注意力（MSCA），即插即用，助力小目标检测 | NeurIPS2022
各专栏持续更新中，改进创新YOLO，适用v5、v7、v8、v9，订阅者私信添加本人微信！！！ By AI小怪兽
11-13 1205
多尺度卷积注意力（MSCA），有效地提取上下文信息，新颖度高，创新十足。1）代替RepC3进行使用；2）MSCAAttention直接作为注意力进行使用；
RandLA-Net中特征学习提取模块解析
cuiy24的博客
08-11 1712
RandLA-Net实现了两个核心指标：一个是利用Random_sampling进行提速，二是设计特征提取模块解决Random_sampling带来的信息丢失问题。 下图为特征提取模块示意图：由三个模块组成，分别为LocSE，Attentive Pooling，Dilated Residual Block Local Spatial Encoding（局部空间编码） 给定点云P以及每个点的特征（例如原始RGB或中间学习的特征），此局部空间编码单元会明确嵌入所有相邻点的x-y-z坐标，从而使相应的点特征始终
空间金字塔思想在图像处理中的应用：SPP，PPM、ASPP和FPN结构理解和总结
muyijames的博客
06-29 1万+
本篇文中主要对 SPP 和 ASPP 空间金字塔做一个简单介绍和总结，有错误之处请多多指教哈！ 文章目录1 综述1.1 SPP结构（Spatial Pyramid Pooling）1.2 ASPP结构（Atrous Spatial Pyramid Pooling）1.3 FPN结构（） 1 综述 SPP论文链接：《Spatial Pyramid Pooling in Deep ConvolutionalNetworks for Visual Recognition》2015年 https://arxiv.o
RT-DETR手把手教程，注意力机制如何添加在网络的不同位置进行创新优化，EMA注意力为案列
各专栏持续更新中，改进创新YOLO，适用v5、v7、v8、v9，订阅者私信添加本人微信！！！ By AI小怪兽
11-21 1688
本文首先复现了将EMA引入到RT-DETR中，并跟不同模块进行结合创新；1）Rep C3结合；2）直接作为注意力机制放在网络不同位置；3）高效和HGBlock结合；总有一种改进适用你的数据集，完成涨点工作并进行创新
【AI理论学习】Python机器学习中的特征选择
小哲的博客
12-21 1078
任何数据科学项目的一个重要步骤是选择最具预测性的变量。特征选择的方法有很多种。有些扩展性很好，但只考虑单独的特性，有些计算成本极高，因此只适用于相对较小的数据集，还有一些处于中间位置。Python 中还有各种特征选择算法的实现，利用了开源库。在一篇文章中涵盖所有这些内容，几乎是不可能的。相反，在本博客中，将介绍用于特性选择的Python库，突出显示每个库中可用的选择方法，然后演示一些特性选择实现。有关其他功能选择方法的教程和分步代码实现，请查看课程《机器学习中的特征选择》或书籍《
【目标检测】(8) ASPP改进加强特征提取模块，附Tensorflow完整代码
热门推荐
博观而约取，厚积而薄发
04-03 1万+
各位同学好，最近想改进一下YOLOV4的SPP加强特征提取模块，看到很多论文中都使用语义分割中的ASPP模块来改进，今天用Tensorflow复现一下代码。 YOLOV4的主干网络代码可见我上一篇文章：https://blog.csdn.net/dgvv4/article/details/123818580 将本节的ASPP代码替换原来的SPP模块代码即可 1. 方法介绍 YOLOv4 中使用 SPP 模块提取不同感受野的信息，但没有充分体现全局信息和局部信息的语义关系。本文设计的 ASPP 引入不
RT-DETR性能对比
最新发布
03-12
RT-DETR是一种实时目标检测模型，它结合了Transformer和DETR（Detection Transformer）的思想。相比传统的目标检测方法，RT-DETR在速度和准确性方面有一定的优势。 RT-DETR的性能对比主要体现在以下几个方面： 1. 速度：RT-DETR采用了Transformer的并行计算机制，可以高效地处理大量的输入数据。相比传统的目标检测方法，RT-DETR在保持较高准确性的同时，能够实现更快的推理速度。 2. 准确性：RT-DETR通过引入Transformer的注意力机制，能够更好地捕捉目标之间的关系和上下文信息，从而提升目标检测的准确性。与传统的基于区域提议的方法相比，RT-DETR能够更好地处理小目标和密集目标的检测问题。 3. 灵活性：RT-DETR采用端到端的训练方式，可以直接从原始图像中学习目标检测任务，无需额外的预处理步骤。同时，RT-DETR还支持多尺度输入和旋转不变性等特性，可以适应不同场景下的目标检测需求。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 13
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Snu77

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值