RT-DETR改进策略【模型轻量化】| 替换骨干网络为 GhostNet V3 2024华为的重参数轻量化模型

已于 2025-03-27 08:59:46 修改
阅读量288 收藏
点赞数
分类专栏： RT-DETR改进专栏 文章标签： YOLO RT-DETR 深度学习 计算机视觉 目标检测
于 2025-01-21 10:59:31 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_42591591/article/details/145279357
版权

一、本文介绍

本文记录的是基于 GhostNetV3 的 RT-DETR轻量化改进方法研究。GhostNetV3的轻量模块采用重参数化方法，训练时为深度可分离卷积和1×1卷积添加线性并行分支，推理时通过逆重参数化移除分支、折叠操作，能够在不增加推理成本的同时提高性能，从而实现RT-DETR的轻量化改进。

专栏目录：RT-DETR改进目录一览 | 涉及卷积层、轻量化、注意力、损失函数、Backbone、SPPF、Neck、检测头等全方位改进

专栏地址：RT-DETR改进专栏——以发表论文的角度，快速准确的找到有效涨点的创新点！

文章目录

了解本专栏 订阅专栏 解锁全文
YOLOv10改进目录一览 | 涉及卷积层、轻量化、注意力、损失函数、Backbone、SPPF、Neck、检测头等全方位改进
Limiiiing的博客
10-11 5975
如何寻找创新点？为什么要使用这个模块？如何才能提升模型的精度？这是贯穿我们研究始终的问题。创新点在这个专栏中我已经整理好了，这已经省去了大部分时间，但是当我们使用这些新的模块去优化已有的模型，如何才能提升模型的精度，才是我们要达到的最终目标。当然我们可以使用传统的A+B+C的方法去堆积模块，然后是进行大量的实验去排列组合以实现最终的精度提升，这无可厚非。
YOLOv11改进策略【模型轻量化】| 替换骨干网络为 GhostNet V3 2024华为的重参数轻量化模型
Limiiiing的博客
01-13 552
一、本文介绍 本文记录的是基于 GhostNetV3 的 YOLOv11 轻量化改进方法研究。GhostNetV3的轻量模块采用重参数化方法，训练时为深度可分离卷积和1×1卷积添加线性并行分支，推理时通过逆重参数化移除分支、折叠操作，能够在不增加推理成本的同时提高性能，从而实现YOLOv11的轻量化改进。 专栏目录：YOLOv11改进目录一览 | 涉及卷积层、轻量化、注意力、损失函数、Backbone、SPPF、Neck、检测头等全方位改进 专栏地址：YOLOv11改进专栏——以发表论文的角度，快速
RT-DETR改进策略【独家融合改进】| RepVit+ASF-YOLO，轻量提点，适用专栏内所有的骨干替换
Limiiiing的博客
03-16 204
本文记录的是基于RepVit的RT-DETR轻量化改进方法研究。通过分离的和减少推理时的计算和内存成本，同时减少扩展比率并增加宽度，降低延迟，并通过加倍通道来弥补参数大幅减少的问题，提高了准确性。在此基础之上，将的颈部网络改进成的结构，使模型能够有效的融合多尺度特征，捕获小目标精细信息，并根据注意力机制关注小目标相关特征，显著提高模型精度。在计算机视觉领域，设计轻量化模型对于在资源受限的移动设备上实现视觉模型的部署至关重要。近年来，轻量级Vision Transformers（ViTs）在移动设备上表现出优
GhostNetV3
whaosoft143ai的博客
04-21 541
在ImageNet-1K数据集上的实验结果显示，GhostNetV3 1.3×模型在仅使用269M FLOPs和14.46ms的移动设备延迟下，达到了79.1%的top-1准确率，大幅度超越了现有模型。使用GhostNetV3作为骨干网络的检测模型，在COCO数据集上达到了与一些大型骨干网络相当的性能，同时保持了更快的推理速度，展现了GhostNetV3在目标检测任务上的优势。华为诺亚方舟实验室最新发布的GhostNetV3，通过创新的训练策略，实现了在保持模型大小和推理速度的同时，显著提升了模型性能。
RT-DETR算法优化改进：轻量化自研设计双卷积重新设计backbone和neck，完成涨点且计算量和参数量显著下降
12-12 1696
双卷积由组卷积和异构卷积组成，执行 3×3 和 1×1 卷积运算代替其他卷积核仅执行 1×1 卷积，YOLOv8Conv，从而轻量化RT-DETR，性能如下表，GFLOPs8.1降低至7.6，参数量6.3MB降低至5.8MB
YOLOv11融合CVPR[2020]轻量化卷积模块Ghost Module模块及相关改进思路|YOLO改进最简教程
深度学习炼丹师，偶尔分享炼丹技术!
11-11 2783
论文速览：CNN 的最新进展主要致力于设计更复杂的架构以提高其表示学习能力。在本文中，我们考虑在不调整模型架构的情况下改进 CNN 的基本卷积特征转换过程。为此，我们提出了一种新的自校准卷积，它通过内部通信显式扩展了每个卷积层的视野，从而丰富了输出特征。特别是，与使用小内核（例如 3 × 3）融合空间和通道信息的标准卷积不同，我们的自校准卷积通过一种新颖的自校准操作，在每个空间位置自适应地构建长距离空间和通道间依赖关系。因此，它可以通过明确地整合更丰富的信息来帮助 CNN 生成更具鉴别性的表示。
【RT-DETR有效改进】轻量化CNN网络MobileNetV2改进特征提取网络
Snu77的博客
01-19 1467
本文给大家带来的改进机制是，其是专为移动和嵌入式视觉应用设计的轻量化网络结构。其在MobilNetV1的基础上采用反转残差结构和线性瓶颈层。这种结构通过轻量级的深度卷积和线性卷积过滤特征，同时去除狭窄层中的非线性，以维持表征能力。MobileNetV2在性能上和精度上都要比V1版本强很多，其在多种应用（如对象检测、细粒度分类、面部属性识别和大规模地理定位）中都展现了一定的有效性。RT-DETR剑指论文专栏，持续复现各种顶会内容——论文收割机RT-DETR。
RT-DETR改进目录一览 | 涉及卷积层、轻量化、注意力、损失函数、Backbone、SPPF、Neck、检测头等全方位改进
Limiiiing的博客
12-03 8230
1️⃣本专栏已更新150多种不同的改进方法，所使用并改进的每一个模块均包含详细的模块分析、原理讲解、个人总结、多种改进方式以及完整的修改流程，所有改进100%可直接运行。2️⃣所有改进点均为近三年顶会，顶刊提出的先进算法，将其融入到中，紧跟学术热点，适应不同的任务场景。3️⃣团队内发表数篇SCI论文，熟悉完整的发表流程，订阅专栏即可进群享受模型训练、模型改进、论文写作、投稿选刊，从入门到论文的各种答疑内容。4️⃣专栏内容会持续更新，最近更新时间：2024-12-4。项目介绍在大家购买专栏后，加入学习
YOLOv11改进目录一览 | 涉及卷积层、轻量化、注意力、损失函数、Backbone、SPPF、Neck、检测头等全方位改进
热门推荐
Limiiiing的博客
10-11 1万+
如今各种网络模型更新迭代越来越快，计算机视觉相关的文章也越来越多，多到一些普通，通用的改进点无法达到发表的要求。本专栏正是解决这个问题！如何寻找创新点？为什么要使用这个模块？如何才能提升模型的精度？这是贯穿我们研究始终的问题。创新点在这个专栏中我已经整理好了，这已经省去了大部分时间，但是当我们使用这些新的模块去优化已有的模型，如何才能提升模型的精度，才是我们要达到的最终目标。当然我们可以使用传统的A+B+C的方法去堆积模块，然后是进行大量的实验去排列组合以实现最终的精度提升，这无可厚非。
YOLOv12改进目录一览 | 涉及卷积层、轻量化、注意力、损失函数、Backbone、SPPF、Neck、检测头等全方位改进
Limiiiing的博客
03-10 4922
1️⃣ 什么！不知道如何改进模型⁉️ 本专栏所使用并改进的每一个模块均包含详细的模块分析、原理讲解、个人总结、多种改进方式以及完整的修改流程，所有改进100%可直接运行，性价比极高。2️⃣ 找不到合适的模块⁉️ 所有改进点均为近三年顶会，顶刊提出的先进算法，将其融入到中，并进行二次创新，新颖度高，创新度高，能够适应不同的任务场景。3️⃣ 不确定自己改进的步骤、结果是否正确⁉️ 订阅专栏即可进群享受模型训练、模型改进、论文写作、投稿选刊，从入门到论文的各种答疑内容，非常适合新手。4️⃣ 团队内发表数篇SCI论
【RT-DETR有效改进】利用MobileNetV3替换Backbone（轻量化网络结构，提点）
Snu77的博客
01-20 1961
本文给大家带来的改进机制是，其主要改进思想集中在结合硬件感知的网络架构搜索（NAS）和NetAdapt算法，以优化移动设备CPU上的性能。它采用了新颖的架构设计，包括反转残差结构和线性瓶颈层，以及新的高效分割解码器Lite Reduced Atrous Spatial Pyramid Pooling（LR-ASPP），以提升在移动分类、检测和分割任务上的表现。实验表明，MobileNets在资源和准确性的权衡方面表现出色，并在多种应用（如对象检测、细粒度分类、面部属性识别和大规模地理定位）中展现了其有效性。
GhostNet的不同版本（v1、v2、v3）实现的人工智能图像分类源码
08-28
GhostNet的不同版本（v1、v2、v3）实现的人工智能图像分类源码；GhostNet的不同版本（v1、v2、v3）实现的人工智能图像分类源码；GhostNet的不同版本（v1、v2、v3）实现的人工智能图像分类源码；GhostNet的不同版本（v1、v2、v3）实现的人工智能图像分类源码；GhostNet的不同版本（v1、v2、v3）实现的人工智能图像分类源码；
【读点论文】GhostNetV3: Exploring the Training Strategies for Compact Models，感觉是调参作品，知识蒸馏，学习率调整，EMA,重参数...
白水空空
05-08 1719
目前最先进的模型MobileFormer实现了79.3%的前1级精度，延迟为129.58ms，这在现实世界的应用中是负担不起的。接下来，我们将GhostNetV3与其他基于CNN的紧凑型模型进行比较，包括MobileNets、ShuffleNets、MixNet、MNASNet、FBNet、EfficientNet和MobileOne，其中FBNet、MNASNet和MobileNetV3是基于搜索的模型，其他是手动设计的模型。因此，KD 采用更大的模型作为教师来指导紧凑模型的学习，是提高性能的合适方法。
【RT-DETR有效改进】 | 主干篇 | EfficientViT高效的特征提取网络完爆MobileNet系列(轻量化网络结构)
Snu77的博客
01-23 2356
本文给大家带来的改进机制是主干网络，一个名字的特征提取网络(和之前发布的只是同名但不是同一个)，其基本原理是提升视觉变换器在高效处理高分辨率视觉任务的能力。它采用了创新的建筑模块设计包括三明治布局和级联群组注意力模块。其是一种高效率的特征提取网络训练速度非常快，推理速度也要比基础版本的要快，其效果完爆之前的MobileNetV3等轻量化网络模型。欢迎大家订阅本专栏，本专栏每周更新3-5篇最新机制，更有包含我所有改进的文件和交流群提供给大家。欢迎大家订阅我的专栏一起学习YOLO!
YOLOv11改进策略【Neck】| ASF-YOLO 注意力尺度序列融合模块改进颈部网络，提高小目标检测精度
Limiiiing的博客
10-16 1571
ASF-YOLO是一种基于YOLO的新颖框架，结合了空间和尺度特征以实现准确和快速的分割。其中，注意力尺度序列融合模块。
GhostNetV3：探索紧凑模型的训练策略
AI浩
04-23 2028
论文链接：https://arxiv.org/pdf/2404.11202.pdf紧凑神经网络是专为边缘设备设计的，这些设备具有更快的推理速度但性能适中。然而，目前紧凑模型的训练策略是从传统模型中借鉴的，这忽略了它们在模型容量上的差异，因此可能阻碍紧凑模型的性能。在本文中，我们通过对不同训练成分进行系统调查，为紧凑模型引入了一种强大的训练策略。我们发现，适当的重参数化和知识蒸馏设计对于训练高性能紧凑模型至关重要，而一些常用于训练传统模型的数据增强方法，如Mixup和CutMix，反而会导致性能下降。
ghostnet
liguandong
11-13 8270
CVPR 2020：华为GhostNet，超越谷歌MobileNet，已开源 - 知乎来自华为诺亚方舟实验室的一篇工作近日被CVPR 2020接受，提出了一种新型的端侧神经网络架构，GhostNet。作者：韩凯、王云鹤等。该架构可以在同样精度下，速度和计算量均少于SOTA算法。 该论文提供了一个全新的Ghos…https://zhuanlan.zhihu.com/p/109325275GhostNet论文解析：Ghost Module - 知乎简介： GhostNet是2020CVPR录用的...
YOLOv10改进策略【模型轻量化】| 替换骨干网络为 GhostNet V3 2024华为的重参数轻量化模型
Limiiiing的博客
02-02 133
本文记录的是基于 GhostNetV3 的 YOLOv10 轻量化改进方法研究。GhostNetV3的轻量模块采用方法，训练时为深度可分离卷积和1×1卷积添加，推理时通过移除分支、折叠操作，能够在不增加推理成本的同时提高性能，从而实现YOLOv10的轻量化改进。
GhostNetv3的Re-parameterization
mddCSDN的博客
08-06 314
在GhostNetV3中，重参数化是一种在训练阶段引入的技术，用于提高模型性能，而在推理阶段则通过逆向重参数化过程去除多余的分支，以避免增加额外的计算成本。具体来说，在训练过程中，深度卷积和1×1卷积中引入了线性并行分支，这些分支在训练后可以重新参数化，在推理时不会带来额外的成本。这是因为卷积和BatchNorm运算在推理过程中都是线性的，可以折叠成单个卷积层，其权重矩阵和偏置可以重参数化为所有分支的权重和偏置的总和。在推理时，通过逆向重参数化过程，可以删除重复的分支。
rt-detr网络训练数据集
最新发布
03-24
另外值得注意的是华为诺亚方舟实验室也开放了一些关于 Ghost Model v3 及其优化版本的相关工作成果,这些可能会进一步提升 RT-DETR 表现效果.[^4] ```python import torch from torchvision.datasets import ...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Limiiiing

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值