【YOLOv8改进-卷积Conv】 OREPA(Online Convolutional Re-parameterization)：在线卷积重参数化

已于 2024-06-29 22:08:16 修改
阅读量192 收藏 1
点赞数 3
分类专栏： YOLOV8基础解析+创新改进+实战案例 文章标签： YOLO 论文阅读 目标跟踪 人工智能 目标检测
于 2024-06-05 10:41:18 首次发布
原创文章，禁止任何形式转载！
本文链接：https://blog.csdn.net/shangyanaf/article/details/139465775
版权

YOLO目标检测创新改进与实战案例专栏

专栏目录： YOLO有效改进系列及项目实战目录 包含卷积，主干 注意力，检测头等创新机制 以及 各种目标检测分割项目实战案例

专栏链接: YOLO基础解析+创新改进+实战案例

介绍

image-20240604160413039

摘要

结构重参数化在各种计算机视觉任务中引起了越来越多的关注。它旨在提高深度模型的性能，同时不引入任何推理时间成本。虽然在推理过程中效率很高，但这些模型在复杂的训练阶段中依赖于复杂的训练块来达到高准确性，导致额外的大量训练成本。本文介绍了在线卷积重参数化（OREPA），这是一个两阶段的流程，旨在通过将复杂的训练阶段块压缩为单个卷积来减少巨大的训练开销。为了实现这个目标，我们引入了一个线性缩放层，以更好地优化在线块。在降低训练成本的同时，我们还探索了一些更有效的重参数化组件。与最先进的重参数化模型相比，OREPA能够减少约70%的训练时间内存开销，并将训练速度加快约2倍。同时，配备OREPAÿ

了解本专栏 订阅专栏 解锁全文
YOLO大王
关注
  • 3
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
订阅专栏
YOLOv8算法改进【NO.95】使用在线卷积重新参数化（OREPA）方法改进C2_f模块
m0_70388905的博客
12-17 313
使用在线卷积重新参数化（OREPA）方法改进C2_f模块
【论文笔记_计算机视觉_2022】Online Convolutional Re-parameterization
qq_45128278的博客
05-12 856
摘要 在各种计算机视觉任务中，结构重参数化已引起越来越多的关注。它的目的是在不引入任何推理时间成本的情况下提高深度模型的性能。虽然在推理过程中很有效，但这种模型在很大程度上依赖于复杂的训练时间块来实现高精确度，从而导致了大量的额外训练成本。在本文中，我们提出了在线卷积重参数化（OREPA），这是一个两阶段的管道，旨在通过将复杂的训练时间块挤压到一个单一的卷积中来减少巨大的训练开销。为了实现这一目标，我们引入了一个线性缩放层来更好地优化在线块。在降低训练成本的协助下，我们还探索了一些更有效的重新参数化组件。.
Online Convolutional Re-parameterization
qq_52302919的博客
04-13 1422
结构重参数化在各种计算机视觉任务中引起了越来越多的关注。它的目的是在不引入任何推理时间成本的情况下提高深层模型的性能。虽然在推理过程中效率很高，但这类模型在很大程度上依赖于复杂的训练时间块来实现高精度，从而导致大量额外的训练成本。在本文中，作者提出了在线卷积重参数化（OREPA），这是一种两级管道，旨在通过将复杂的训练时间块压缩成单个卷积来减少巨大的训练开销。为了实现这一目标，作者引入了一个线性缩放层，以更好地优化在线块。在降低训练成本
论文速读：Online Convolutional Re-parameterization
u014546828的博客
05-21 1234
Paper: https://arxiv.org/pdf/2204.00826v1.pdf Codes are available at https: //github.com/JUGGHM/OREPA_CVPR2022.
Lossless CNN Channel Pruning via Gradient Resetting and Convolutional Re-parameterization
gcf_uinque的博客
07-24 638
论文地址：https://arxiv.org/abs/2007.03260 代码地址：https://github.com/DingXiaoH/ResRep. 因为CNN的表征能力取决于宽度，所以普通的通道剪枝往往会降低性能。作者收神经生物学关于记忆和遗忘的独立性启发，将CNN再参数化为记忆部分和遗忘部分，记忆部分学习保持性能，遗忘部分学习提高效率。 ...
CVPR2022 | 在线Re-Param | OREPA让AI训练速度进一步加快，精度略胜RepVGG！
qq_29462849的博客
04-06 1000
点击上方“计算机视觉工坊”，选择“星标”干货第一时间送达作者丨ChaucerG来源丨集智书童结构重参化在各种计算机视觉任务中引起了越来越多的关注。它的目的是提高深度模型的性能，而不引入任何推理时间成本。虽然这种模型在推理过程中很有效，但它严重依赖于复杂的training-time block来实现较高的准确性，从而导致了巨大的额外训练成本。在本文中提出了在线卷积重参化(O...
CVPR2022 | OREPA（Online Convolutional Re-parameterization）超越 RepVGG 的在线重参数方法
AI-cv-sharer
05-14 596
这里写自定义目录标题欢迎使用Markdown编辑器新的改变功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图导出与导入导出导入 欢迎使用Markdown编辑器 你好！ 这是你第一次使用 Markdown编辑器 所展示的欢迎页。如果你想学习如何使用Mar
Online Convex Optimization
qq_41567540的博客
05-30 251
与OGD类似，区别即获得的梯度是带噪声的。该处证明SGD方法的convergence rate，上边是regre bound。OGD算法是GD算法的在线版本，第一次引入是通过 Zinkevich。轮累积和，即可得到regre bound =是OGD最好的遗憾界，相关证明可以参考。对于强凸损失函数，通过设置步长序列。然后联合公式4和5，证明完毕。也就是说，每次从决策集取一个点。在该点的梯度，并且期望的方差是。，然后获得该点带噪声的梯度，，可行域内的一系列点集。
YOLOv8-Seg改进：轻量化改进 | 超越RepVGG！浙大&阿里提出OREPA：在线卷积重参数化
会AI的学姐
01-10 372
OREPA在线卷积重参数化巧妙的和YOLOV8结合，并实现轻量化
【模型剪枝】|重参数化 ResRep
qq_35608277的博客
05-26 2730
LosslessCNN Channel Pruning via Gradient Resetting and ConvolutionalRe-parameterization 提出了一种新的无损的通道剪枝方法ResRep（也就是filter pruning），其目的是通过减小卷积层的宽度（输出通道数）来精简卷积神经网络（CNN）。受记忆和遗忘的独立性的神经生物学研究的启发，我们提出将CNN重参数化为记忆部分和遗忘部分，前者学习维持表现，后者学习提高效率。通过在前者上使用常规SGD训练重参数化模型，而在后者上
YOLOV3翻译
smilejfy的博客
07-15 524
我们对 YOLO 进行了一些更新！我们在设计上做了一些小改动，使它变得更好。我们还训练了一个新的网络，它非常强大。在模型上，它比上次的大了一点，但更准确了，不过速度还是很快，不用担心。在 320×320 时，YOLOv3 以 28.2 mAP 在 22 毫秒内运行，与 SSD 一样精确，但速度快三倍。当我们使用旧的 0.5 IOU mAP 检测指标时，YOLOv3 的表现相当不错。
YOLOv1翻译（You Only Look Once: Unified, Real-Time Object Detection）
smilejfy的博客
07-12 682
我们发表了 YOLO，一种新的目标检测方法。先前关于目标检测的工作重新利用分类器来执行检测。取而代之的是，我们将目标检测构建成一个回归问题，该回归问题指向空间上分离的边界框和相关的类概率。单个神经网络可在一次评估中直接从完整图像预测边界框和类别概率。由于整个检测pipeline是单一网络，因此可以直接在检测性能上进行端到端的优化。我们的统一架构在执行上速度极快。我们的base YOLO 模型以45 帧/秒的速度实时处理图像。
YOLOv8改进 | 检测头 | 融合渐进特征金字塔的检测头【AFPN3】
kay_545
07-15 820
yolov8改进，yolov8，AFPN检测头
Yolov8网络结构学习
最新发布
Linxiaojiejieya的博客
07-17 521
首先，使用1x1卷积核将输入通道数减少到原来的1/2，以减少计算量和内存消耗。yolov5中的C3模块在yolov8中被替换为了C2f，C2f则采用了yolov7中ELAN 多层堆叠的结构，增加了更多类似resnet残差块中的跳跃连接,丰富了模型的梯度流。在C2f模块中用到的DarknetBottleneck模块，使用多个3x3卷积核进行卷积操作，提取特征信息，同时其具有add是否进行残差链接的选项。与yolov5一样，每个卷积层的模块都采用步长为2的卷积核进行降采样操作，减少特征图的尺寸同时增加通道数。
yolo格式数据集之狗类120种数据集已划分好|可以直接使用|yolov5|v6|v7|v8|v9|v10通用
qq_15060477的博客
07-14 208
yolo格式数据集之狗类120种数据集已划分好|可以直接使用|yolov5|v6|v7|v8|v9|v10通用。总共有:19983张。训练集：16001张。
WSL-Ubuntu20.04环境使用YOLOv8 TensorRT推理加速
ice
07-15 348
在阅读本章内容之前，需要把部署环境以及训练环境都安装好。
YOLOV5的输出[1,25200,85]如何理解和解析
chenyuan1111的博客
07-17 93
1、25200代表着检测框的数量，比如我们取出第一个检测框a，也就是[1,1，85]，取出来之后我们解析85，前五个为box的中点坐标、长宽值以及置信，后面80我们取Max（80个类别）中最大值，类别的处于多少行对应于label class.txt别中的类是哪一类别。
YOLOv8白皮书-第Y7周：训练自己的数据集
lihuhelihu的博客
07-15 868
ImageSets文件夹下面有个Main子文件夹，其下面存放了train.txt、val.txt、test.txt 和 trainval.txt 四个文件，它们是通过split_train val.py 文件来生成的.在YOLOv8中，需要自己创建train.py文件，训练默认参数保存在 default.yaml 文件中，关键参数是可以在训练命令行 /train.py 文件中进行修改。运行voc_label.py文件生成 train.txt、test.txt、val.txt 文件，先看看要生成的文件位置。
yolov8改进spd-conv
07-28
目前还没有YOLOv8这个版本的改进，最新的版本是YOLOv5。YOLOv5是在YOLOv4的基础上进行改进的，主要是通过引入SPD-Conv构建块来提高性能。SPD-Conv由一个空间到深度(SPD)层和一个无卷积步长(Conv)层组成，可以应用于大多数CNN体系结构。这个构建块的引入可以解决低分辨率图像和小物体等困难任务时的性能下降问题。\[3\] 所以，目前还没有关于YOLOv8改进SPD-Conv的相关研究或实现。如果有关于YOLOv8的改进，可能会在未来的研究中提到。 #### 引用[.reference_title] - *1* *2* *3* [涨点神器：基于Yolov5/Yolov7的SPD-Conv，低分辨率图像和小物体涨点明显](https://blog.csdn.net/m0_63774211/article/details/129661154)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^control_2,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

YOLO大王

你的打赏，我的动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值