UltraFastYoloV5发布!基于剪枝技术的模型压缩,3ms推理的YoloV5mAP60+!

最新推荐文章于 2024-03-13 17:56:41 发布
最新推荐文章于 2024-03-13 17:56:41 发布
阅读量5.2k 收藏 48
点赞数 4
分类专栏： 网络压缩 ONNX+TensorRT 目标检测 文章标签： 人工智能 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/jinfagang1211/article/details/108826029
版权

UltraFastYoloV5发布!基于剪枝技术的模型压缩,3ms推理的YoloV5mAP60+!

本文由林大佬原创，转载请注明出处，来自腾讯、阿里等一线AI算法工程师组成的QQ交流群欢迎你的加入: 1037662480

很久没有发文章了,前段时间受疫情的影响, 公司希望开发一个口罩佩戴检测的应用, 讲道理这很简单, 我记得在年初的时候有一个团队就发布了这么一个模型, 但我们尝试下来发现事情并没有那么简单, 原因是:

  • 开源的模型根本没法用, 只能做demo,实际场景下漏检非常严重;
  • 速度并不快. 很多人说30FPS不就已经够了吗? 公司给我们的就一个JetsonNano的开发板, 再快的模型跑到这上面都要凉凉.

因此, 一个很严峻的问题摆在我们面前, 如果基于现有的最牛逼的检测器开发一个足够快, 模型体积足够小, 同时精度又还OK的模型呢? 我们得出的解决方案只有一个:对Yolov5进行模型剪枝和量化！

说到这里, 实际上我们做的并没有那么透彻, 因为这不是一个完完全全的剪枝套路, 我们做的工作主要有三个:

  • 原始的YoloV5的backbone过于重, 先用一个小的backbone做一个baseline;
  • 对这个backbone的HEAD部分进行裁剪;
  • 对Detect Layer进行裁剪.
  • 对整个模型进行剪枝计算, 得到剪枝表, 估算我们要裁剪的部分, 得到裁剪之后的模型.

很多同学应该都有试过Yolov5的模型, 它的检测能力还是非常强的, 鄙人认为主要体现在它的结构除了包含Yolov4的所有优点以外, 相较于Yolov4训练过程更加的科学, 对于正样本的挖掘和有效训练可以说发挥到了极致. 另外不同数据集对于Anchor的作用是非常敏感的, 知乎也有大佬分析过这个因素对于最终训练结果的影响, 本人也做过实验, 一个无比正确的anchor决定了你的检测效果的80%,. 这也是为什么很多SSD系列的算法在不同数据集上有些人就是得不到好的结果 (包括EfficientDet). 因为缺乏一个正确的anchor的指导.

但本篇文章想阐述的是, 即便是Yolov5, 它也存在着极大的参数冗余. 这也是我们进行剪枝的一个出发点. 实验结果上经过我们的裁剪, Yolov5s的模型大小可以降低 29倍. 表格对比如下:

YoloV5sYolov5s-Pruned
model size29M1.3M
speed (TensorRT GPU)12ms4ms
CPU (ONNXRuntime)400ms30ms

这个数据所有的输入尺寸都为 1280x800. 最终我们的效果可以做到 4ms 1.3M的模型体积. 这对于移动端来说是非常友好的, 如果你想要更快的速度, 那么减小输入尺寸, 还可以获得加一倍的速度!

我们测试数据集就是对口罩进行检测数据集, 实际效果可以看到:

image-20200927130733800

image-20200927130812655

image-20200927130831205

image-20200927130847775

image-20200927130906461

对于小目标的检测效果还是非常不错的! 尤其是这是图片都是来自于没有被训练的百度图片, 说明模型的鲁棒性也还是OK的! 事实说明, 我们的裁剪策略是非常有效的, 对于一些面向移动端的场合, 这几乎是必经之路.

裁剪之前的准备

假如你关注了我们的专栏, 我们之前有写过一篇自己构建Yolov5模型的文章. 官方的Yolov5是没有办法进行裁剪的, 因为它的构建方式有点复杂, 很难对模型进行分析.

建议大家可以看我们之前的文章:

https://zhuanlan.zhihu.com/p/242456389

由于裁剪部分的操作还是有点复杂, 而且有点杂乱, 我们会在后续的文章中陆续教授,也可能以视频录制的形式开发出来,请大家关注我们的专栏, 或者我们的公众号来接受第一时间的推送.

image-20200820181257044

代码

Talk is cheap, 幸运的是我们所有的操作都在Yolov5的fork版本之上完成, 你可以很方便看到我们裁剪之后的模型, 甚至可以以和yolov5一模一样的训练方式,复现我们的结果. 大家可以在我们的平台找到对应的代码, 下载下来进行尝试:

http://manaai.cn/aicodes_detail3.html?id=66

更多

image-20200820181257044

如果你想学习人工智能，对前沿的AI技术比较感兴趣，可以加入我们的知识星球，获取第一时间资讯，前沿学术动态，业界新闻等等！你的支持将会鼓励我们更频繁的创作，我们也会帮助你开启更深入的深度学习之旅！

image-20200515153654923

往期文章

https://zhuanlan.zhihu.com/p/165009477

https://zhuanlan.zhihu.com/p/149398749

https://zhuanlan.zhihu.com/p/147622974

https://zhuanlan.zhihu.com/p/144727162

小肉包老师
关注
  • 4
    点赞
  • 踩
  • 48
    收藏
    觉得还不错? 一键收藏
  • 6
    评论
专栏目录
YOLOv5改进策略|YOLOv5 的模型压缩方法、模型压缩、剪枝、量化
sybh的博客
06-13 1229
作为一个基本问题，目标检测多年来一直是一个活跃的研究领域。对象检测的主要目标涉及从数据中识别和 定位感兴趣的对象FF某些给定图像中的不同类别。对象检测是许多其他高级计算机视觉任务 [1] 的基础，从语义 分割 [2] 到对象跟踪 [3] 到活动识别 [4]。近年来，卷积神经网络(CNN)等基于深度学习的方法在目标检测任务 中取得了最先进的性能。由于计算能力和尖端算法的进步，物体检测变得更加准确，从而实现了广泛的现实应 用。
yolov5 剪枝、蒸馏、压缩、量化
shiter编写程序的艺术
03-15 2036
考察神经网络时期重要的激活函数sigmoid和tanh，它们有一个特点，即输入值较大或者较小的时候，其导数变得很小，而在训练阶段（详见1.2.3节），需要求取多个导数值，并将每层得到的导数值相乘，这样一旦层数增加，多个很小的导数值相乘，结果便趋于零，即所谓梯度消失问题[插图]，这将会导致靠近输入层的隐含层的学习效果也趋于零。
YOLOv3目标检测实战：训练自己的数据集
05-29
YOLOv3是一种基于深度学习的端到端实时目标检测方法，以速度快见长。本课程将手把手地教大家使用labelImg标注和使用YOLOv3训练自己的数据集。课程分为三个小项目：足球目标检测（单目标检测）、梅西目标检测（单目标检测）、足球和梅西同时目标检测（两目标检测）。本课程的YOLOv3使用Darknet，在Ubuntu系统上做项目演示。包括：安装Darknet、给自己的数据集打标签、整理自己的数据集、修改配置文件、训练自己的数据集、测试训练出的网络模型、性能统计(mAP计算和画出PR曲线)和先验框聚类。Darknet是使用C语言实现的轻型开源深度学习框架，依赖少，可移植性好，值得深入探究。购课后可加入白勇老师课程学习交流QQ群：957519975除本课程《YOLOv3目标检测实战：训练自己的数据集》外，本人推出了有关YOLOv3目标检测的系列课程，请持续关注该系列的其它课程视频，包括：《YOLOv3目标检测实战：交通标志识别》《YOLOv3目标检测：原理与源码解析》《YOLOv3目标检测：网络模型改进方法》敬请关注并选择学习！
Yolov5更换backbone，与模型压缩（剪枝，量化，蒸馏）
热门推荐
weixin_42638415的博客
12-15 2万+
目前支持更换yolov5的backbone主干网络为Ghostnet，以及采用eagleeye的剪枝方法支持对yolov5系列的剪枝。 后续，将会添加更多更轻量，更优秀的主干网络，比如swintrans，...
YOLOv5s剪枝+量化+安卓部署学习记录───模型剪枝
zswzswzsw233的博客
06-09 2883
使用yolov5s体验一下模型剪枝、量化和安卓部署过程
【YOLOv5】【模型压缩与加速】【量化】FP32、FP16、INT8
笔记
11-12 5468
量化是将模型参数的存储类型从高精度存储降到低精度存储，从而达到减小模型体积大小、加快模型推理速度的效果。这个直接使用yolov5的export导出32位存储的 engine格式模型即可。
基于剪枝后的yolov5模型进行知识蒸馏训练python源码+项目说明.zip
最新发布
04-12
基于剪枝后的yolov5模型进行知识蒸馏训练python源码+项目说明.zip 基于剪枝后的yolov5模型进行知识蒸馏训练python源码+项目说明.zip 基于剪枝后的yolov5模型进行知识蒸馏训练python源码+项目说明.zip 基于剪枝后的...
基于yolov5+CRNN的中文车牌识别系统
02-05
**基于Yolov5+CRNN的中文车牌识别系统详解** 在现代智能交通系统和安防领域，车牌识别是一项至关重要的技术。本系统采用先进的深度学习框架，结合了Yolov5（You Only Look Once）与CRNN（Convolutional Recurrent ...
DeepLabV3+模型剪枝实战
03-05
5. **迭代剪枝**：如果需要进一步压缩模型，可以重复上述步骤，逐步进行更深入的剪枝。 6. **量化和编译**：为了在实际设备上部署，剪枝后的模型可能还需要进行量化（将浮点数权重转换为整数）和编译，以提高运行...
YOLOv3-手部检测-训练测试-模型剪枝-模型压缩
03-13
该压缩包文件的主题围绕着YOLOv3在手部检测上的应用、模型的训练与测试、以及模型优化的两个重要方面——模型剪枝和模型压缩。下面将分别详细介绍这些知识点： 1. **YOLOv3手部检测**：YOLOv3使用了一种基于卷积...
Pruned-YOLO:使用模型修剪方法获得基于YOLOv5的紧凑模型Pruned-YOLOv5
03-25
修剪YOLO 使用模型修剪方法获得紧凑模型，即基于YOLOv5的Pruned-YOLOv5。 注意： 1.该项目基于 。 首先将其安装。 然后，使用此处提供的模型配置文件（ coco_yolov5l.yaml ）和网络模块定义文件（ common.py ）替换原始的对应文件。 2.参考 ，我们还使用次梯度方法进行稀疏度训练（ sparsity.py ）。 此外，稀疏训练和微调相结合以简化修剪流程。 在训练过程中，我们介绍了软掩膜策略和稀疏因子余弦衰变。 3.使用train_sr.py进行稀疏火车，可以直接进行修剪，而无需进行微调。 4.请把prune_channel_v5_weightingByKernel.py和prune_layer_v5_weightingByKernel.py放在主目录（ / yolov5 / ）中。 前者用于通道修剪，后者用于层修剪。 模型修剪可以由他们
mobile-yolov5-pruning-distillation:mobilev2-yolov5s剪枝，蒸馏，支持ncnn，tensorRT部署。超轻但性能更好！
03-19
移动式yolov5修剪蒸馏 mobilev2-yolov5s的通道修剪和蒸馏。超轻但性能更好！ TensorRT版本===> Android版本===> 背景 yolov5s在640x640分辨率下的计算量和参数量分别为8.39G和7.07M。在速度上仍然有提升空间，通过替换backbone（mobilenetv2），通道剪枝对模型进行压缩。 。本项目以工程化为基础，主要是模型端的优化。实现了常用的剪枝和蒸馏算法，并完成了一个简单的介绍和评估。将工程可用模型转换成对应的部署版本。 基准线 数据集采用Pascal VOC，训练集= train2007 + train2012 + val2007 + val2012，测试集= test2007，基线采用mobile-yolo（imagenet预训练），如果没有特别说明，第一个模块采用重点如果特定特殊说明则可以使用替换参数，batchsize
yolov5模型压缩心得
qq_32582681的博客
07-29 1246
模型压缩
YOLOv5模型压缩方法：综述
AI浩
08-04 4150
目标检测作为一个基本问题，多年来一直是一个活跃的研究领域。目标检测的主要目标是在给定的图像中从不同类别中识别和定位感兴趣的目标。目标检测是许多其他高级计算机视觉任务的基础[1]，从语义分割[2]到目标跟踪[3]到活动识别[4]。近年来，基于深度学习的方法如卷积神经网络(cnn)在目标检测任务中取得了最先进的性能。由于计算能力和前沿算法的进步，目标检测变得更加准确，从而实现了广泛的现实世界应用。与经典的目标检测方法相比，使用cnn缓解了目标检测中的特征提取、分类和定位问题[5,6,7,8,9,10]。
目标检测 YOLOv5 边框预测（bounding box prediction）
flyfish
05-31 1万+
目标检测 YOLOv5 边框预测（bounding box prediction） flyfish 代码在yolo.py 主要是这段代码 y = x[i].sigmoid() y[..., 0:2] = (y[..., 0:2] * 2. - 0.5 + self.grid[i]) * self.stride[i] # xy y[..., 2:4] = (y[..., 2:4] * 2) ** 2 * self.anchor_grid[i] # wh z.append(y.view(bs, -1, se
yolov5模型压缩-shufflenetv3
weixin_43864650的博客
03-13 270
轻量化骨干系列（1）–shufflenetv3。3、新建shufflenetv3.yaml。
YOLOV5通道剪枝【附代码】
z240626191s的博客
09-29 1万+
之前的博客中已经实现了YOLOv4、YOLOR、YOLOX的剪枝，经过了几天的辛勤努力，终于实现了YOLOv5的剪枝。
基于YOLOv5模型压缩、模型量化、模型剪枝
踟蹰横渡口,彳亍上滩舟。
03-06 7844
代码下载地址：下载地址 Requirements pip install -r requirements.txt Pruning for YOLOs Model mAP mAP@50 Parameters(M) GFLOPs FPS@CPU YOLOv5s 18.4 34 7.05 15.9 YOLOv5n 13 26.2 1.78 4.2 YOLOv5s-EagleEye@0.6 14.3 27.9 4.59 9.6 1、Prune Strategy （1）基于YO
【目标检测】YOLOX ，YOLO系列的集大成者
qq_43799400的博客
04-06 9404
YOLOX 详解
YOLOv5模型剪枝后，如何计算新的模型推理速度
06-06
在对YOLOv5模型进行剪枝后，由于模型的结构和参数发生了变化，新的模型推理速度需要重新计算。下面介绍两种计算新模型推理速度的方法： 1. 硬件测试法：将剪枝后的模型部署到目标硬件上，通过测量模型在实际硬件上的推理速度来计算新的模型推理速度。这种方法相对比较准确，但需要实际硬件支持和测试场景。 2. 理论计算法：通过计算模型的FLOPs和参数量等指标来估计新的模型推理速度。这种方法相对简单，可以在不需要实际硬件的情况下进行估计，但是相对于硬件测试法，结果可能会存在一定的误差。 一般来说，可以使用理论计算法来估计新模型的推理速度，然后与实际测试结果进行比较来检验结果的准确性。在计算新模型推理速度时，需要考虑剪枝后模型计算量的变化，包括FLOPs、MACs等指标，以及模型结构的变化、硬件配置等因素。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 6
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值