yolov11、yolov8部署的7种方法（yolov11、yolov8部署rknn的7种方法），一天一种部署方法，7天入门部署

已于 2025-02-08 14:57:57 修改
阅读量2.3k 收藏 42
点赞数 30
文章标签： YOLO
于 2025-01-31 22:33:54 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zhangqian_1/article/details/145401547
版权

  由于涉及量化、部署两个领域，本博文难免有不对之处，欢迎指正。

  本博客对 yolov11（yolov8）尝试了7种不同的部署方法，在最基础的模型上一步一步的去掉解码相关的操作（移到后处理中进行），直到不能再删减，保留到模型最本质的部分。

  随着解码相关的操作越来越多的移入后处理，模型的推理的时耗在减少，后处理的时耗在增加；但也随着解码操作从模型种移除，量化的效果也在逐步变好。

  对每种方法的优势进行了简单总结，不同的平台、不同的时耗或CPU占用需求，总有一种方法是适用的。当然对想了解部署的也是一个很好的参考学习资料。

  春节期间一天一种部署方法，这个春节收获满满。

  yolov11的7种部署方法代码链接

  本博客种使用的板端芯片rk3588，模型yolov11n，模型输入分辨率640x640，检测类别80类。

0 七种方法汇总

编号推理时耗ms后处理时耗ms总时耗msCPU占用相比上一种方法int8量化友好性
第1种––最少最简单不友好
第2种33.754.497238.2472同1不友好
第3种32.444.497136.4971增多不友好
第4种30.784.5535.33增多较友好
第5种30.754.8435.58增多，增加到最多较友好
第6种30.247.0837.32同5较友好
第7种30.177.3437.51同5友好

  若NPU负载不是瓶颈，当然可以考虑把多的操作放在NPU上，反之将操作往CPU上挪一部分；若量化掉点较多，则可以考虑量化稍微友好的方式。

1 代码目录结构

  yolov11的 7 种部署方法

yolov11_onnx  # onnx 推理脚本、模型、测试图片、测试效果图
yolov11_rknn  # 转并推理 rknn 脚本、模型、测试图片、测试效果图
yolov11_cpp   # 部署 rk388 完整 C++ 代码、模型、测试图片、测试效果图

2 yolov11（v8）的7种部署方法

2.1 第1种部署方法

模型结构

  按照yolov11官方导出的onnx模型，模型输出直接是类别和解码后的框，模型结构如下图。
在这里插入图片描述

onnx效果

  很遗憾的是转换成rknn的int8模型，检测不到任何结果。转换rknn的int8时把模型输出结果都打印出来发现，模型输出的84这个维度，前4个坐标框值正常，后80个得分输出全为0。导致这样的原因：坐标框值取值范围是1-640，而得分输出的值取值范围0-1，使得对量化很不友好，导致模型得分输出的值基本都为0。尝试转rknn的时不进行量化结果输出正常。因此该方法对量化不友好。这种部署方式模型时耗最长，后处理操作最少。
在这里插入图片描述

板端效果

  由于该种部署方法转rknn的int8时量化效果非常差，因此不做板端部署。

2.2 第2种部署方法

模型结构

  在第1种部署方法的模型基础上，去掉了最后的把坐标框和得分concat在一起的操作。
在这里插入图片描述

onnx效果

  onnx的测试效果和第一种一样，就不再贴图了。

板端效果

  第1种部署方法由于坐标框值取和得分的取值范围差异较大，concat在一起使得量化成int8模型基本不可用。这种方法是去掉了最后的concat，量化能正常输出结果，但在板端测试效果不是很好。
在这里插入图片描述

板端时耗

在这里插入图片描述

2.3 第3种部署方法

模型结构

  在第2种部署方法的模型基础上，去掉坐标框解码到模型输入尺寸的计算。
在这里插入图片描述

onnx效果

  onnx的测试效果和第一种一样，就不再贴图了。

板端效果

在这里插入图片描述

板端时耗

在这里插入图片描述

2.4 第4种部署方法

模型结构

  在第3种部署方法的模型基础上，继续去掉坐标框的DFL，输出2个头。第2、3两种部署方法，可能是对于量化不友好，导致检测效果明显有问题。该种方法检测效果没有明显问题。
在这里插入图片描述

onnx效果

  onnx的测试效果和第一种一样，就不再贴图了。

板端效果

在这里插入图片描述

板端时耗

在这里插入图片描述

2.5 第5种部署方法

模型结构

  在第4种署方法的模型基础上，继续去掉把坐标框和得分进行分开的split，以及得分的sigmoid函数，输出1个头。到达这一种部署方法后，后处理占用cpu不会在增加。
在这里插入图片描述

onnx效果

  onnx的测试效果和第一种一样，就不再贴图了。

板端效果

在这里插入图片描述

板端时耗在这里插入图片描述

2.6 第6种部署方法

模型结构

  在第5种署方法的模型基础上，继续把三个检测头concat在一起的操起去掉，输出3个头。

在这里插入图片描述

onnx效果

  onnx的测试效果和第一种一样，就不再贴图了。

板端效果

在这里插入图片描述

板端时耗

在这里插入图片描述

2.7 第7种部署方法

模型结构

  在第6种署方法的模型基础上，继续把三个检测头的坐标框和得分concat在一起的操起去掉，输出6个头。到这一步模型内封装的操作能去的都去了，模型的速度达到了最快，量化友好性达到了最好。

在这里插入图片描述

onnx效果

  onnx的测试效果和第一种一样，就不再贴图了。

板端效果

在这里插入图片描述

板端时耗

在这里插入图片描述

YOLOv11 正式发布！你需要知道什么? 另附：YOLOv8 与YOLOv11 各模型性能比较
专注于图像领域，主要研究内容包括计算机视觉和深度学习，特别是在图像分类、目标检测和图像生成等方面有深入的研究和实践经验。
10-18 4941
YOLOv11 正式发布！你需要知道什么? 另附：YOLOv8 与YOLOv11 各模型性能比较
使用rknn进行yolo11-pose部署
如果想成为中心，那么就到中心去吧。
02-19 399
使用 RKNN 进行 YOLOv11 Pose 部署的必要性在于，RKNN 能将 YOLOv11 Pose 模型转化为适合 Rockchip 硬件平台（如 RV1109、RV1126）执行的格式，充分利用其 AI 加速功能，显著提高推理速度和效率。此外，RKNN 提供模型优化（如量化）功能，有助于减少计算资源消耗，提升实时处理能力，特别适合在嵌入式设备上进行高效、低功耗的姿态估计任务，满足边缘计算和实时应用的需求。修改nn/modules/head.py中的Pose.forward函数。
yolo+rknn测试部署
02-24
yolo+rknn测试部署
C# winform yolov11-onnx实例分割模型部署源码.7z
10-06
【测试环境】 vs2019 net framework4.7.2 opencvsharp4.8.0 onnxruntime1.16.3  视频演示：https://www.bilibili.com/video/BV1yu1qYaE5K/ 博文地址：https://blog.csdn.net/FL1623863129/article/details/142727953
YOLOv12本地部署教程——42%速度提升，让高效目标检测触手可及
SJJS_1的博客
03-06 2350
YOLOv12 是“你只看一次”（You Only Look Once, YOLO）系列的最新版本，于 2025 年 2 月发布。它引入了注意力机制，提升了检测精度，同时保持了高效的实时性能。在保持速度的同时，显著提升了检测精度。例如，YOLOv12-N 在 T4 GPU 上的推理延迟为 1.64 毫秒，平均精度（mAP）达到 40.6%，相比 YOLOv10-N 和 YOLOv11-N 分别提升了 2.1% 和 1.2%
YOLOV11(YOLO全系列)部署教程（最简单快速）
qq_51977316的博客
11-04 7986
本教程是针对YOLO全家桶的环境配置教程，超级详细无尿点。
【YOLO11部署至RK3588】模型训练→转换RKNN→开发板部署
A_l_b_ert的博客
11-16 6978
最近，原YOLOv8团队发布了新的检测算法：YOLO11，算是和YOLOv10前后脚了，v10最大的特点是去除了NMS处理，YOLO11的亮点则是采用了全新的C3k2模块与C2PSA层，因此想从模型训练开始试试其最终部署效果，以下为正文。
YOLOv11对比YOLOV8网络结构变化分析，帮助你真正的理解和学习yolo框架
qq_39128381的博客
10-15 1万+
yolov11 yolo
yolov11 部署瑞芯微rk3588、RKNN部署工程难度小、模型推理速度快
zhangqian_1的博客
10-06 7622
yolov8还没玩溜，yolov11又来了，那么部署也又来了。完整代码：包括onnx转rknn和测试代码、rknn板端部署C++代码。
YOLO11详解(与YOLOv8对比)
Alex_Tlover的博客
10-08 9611
YOLO（You Only Look Once），是由华盛顿大学的Joseph Redmon和Ali Farhadi开发的一个流行的目标检测与图像分割模型。自2015年发布以来，YOLO因其高速度和高精度迅速获得了广泛的关注和使用。 2.2 YOLOv8模型结构： 模型差别总体预览 ： 首先了解C2f模块的代码，这个模块结合了跨阶段部分连接（CSPNet）和 Bottleneck 结构，用于有效的特征提取。: __init__方法: - 初始化了两个卷积层 cv
YOLOv11 vs YOLOv8：谁才是真正的AI检测之王？
热门推荐
阿旭的博客
10-06 1万+
YOLOv11 vs YOLOv8：谁才是真正的AI检测之王？
Yolov11与Yolov8在西红柿识别数据集上对比
llz19670的博客
10-14 1754
Ultralytics 最新发布的 YOLOv11 相较于其上一代产品 YOLOv8，虽然没有发生革命性的变化，但仍有一些显著的改进（值得注意的是，YOLOv9 和 YOLOv10 并非由 Ultralytics 开发）。此外，YOLOv11 在损失函数方面没有进行更新，依然采用 CIoU 作为边界框回归的损失函数，保持了 YOLOv8 中成熟的损失优化策略。：YOLOv11 中的检测头内部进行了调整，替换了两个深度可分离卷积（DWConv），这不仅降低了计算量，还在一定程度上提升了检测效果。
最新深度学习YoloV11训练，转化，推理，C#部署
qq_65356682的博客
12-20 2853
注意本文主要是介绍YoloV11的相关操作以及主要应用，想要了解yolov11的人可以看网上其他人的介绍引。
Qt部署yolov11的rknn检测模型
weixin_43889994的博客
02-21 419
使用qt来进行yolov11的rknn模型检测基本完成，后续就根据实际的应用场景来进行进一步的优化。
YOLO训练出来的的PT模型转ONNX，ONNX转RKNN教程（Ultralytics篇）
Chen_sir577的博客
11-14 3636
使用Ultralytics工具下的YOLO检测算法，并部署到国产RK3588开发板测试下效果。本文使用的是yolov8-p2训练完的模型作为参考。
OpenCV学堂 | YOLOv8官方团队宣布YOLOv11 发布了
csdn_xmj的博客
10-01 1402
可以说，只要你会YOLOv8从训练到部署，切换到YOLOv11，只需要改个几个数字就好啦！其它基本不用管，这版本升级主打一个丝滑！
Yolov8与Yolov11的网络架构的区别
最新发布
weixin_38991876的博客
03-26 842
在小规模自定义数据集（如工业螺母检测）上，两者的mAP(0.5)均达到0.995，但YOLOv8在更严格的mAP(0.5~0.95)指标上略优。：替换YOLOv8的主干为EfficientNetV1，通过均衡缩放深度、宽度和分辨率，降低参数量并提升精度（实验显示mAP提升约2%）。YOLOv11通过优化网络结构和引入轻量化模块（如DWConv），在保持实时性的同时降低了计算量，适合边缘设备部署。YOLOv11对模型的深度（层数）和宽度（通道数）进行了优化调整，增强了复杂场景下的鲁棒性。
YOLOv11与YOLOv8详细对比分析：mAP、Speed、Params、FLOPs
阿旭的博客
10-14 6788
YOLOv11与YOLOv8详细对比分析：mAP、Speed、Params、FLOPs
yolov11 rknn
12-28
### YOLOv11 转换为 RKNN 格式并在 Rockchip 平台上部署 #### 准备工作 为了成功将YOLOv11模型转换为RKNN格式并部署到Rockchip平台，需准备如下工具和环境： - 安装 `rknn-toolkit` 工具包。此工具支持多种框架下的模型转制为RKNN格式[^1]。 ```bash git clone https://github.com/rockchip-linux/rknn-toolkit.git cd rknn-toolkit git checkout c5360f6e7 pip install . ``` #### 模型转换过程 对于YOLOv11模型的转换流程主要分为几个部分处理： - **导出ONNX模型**：首先需要把原始训练好的YOLOv11 PyTorch(.pt)模型文件通过官方提供的脚本或其他方式转化为中间表示形式即ONNX格式。 - **优化ONNX模型**：利用onnx-simplifier等工具进一步简化和优化该ONNX版本的网络结构以提高效率减少冗余操作节点数量。 - **转换至RKNN格式**：最后一步就是采用上述安装完成后的`rknn-toolkit`来进行最终的目标转换动作，具体命令如下所示: ```python from rknn.api import RKNN # 创建RKNN对象实例化 rknn = RKNN() # 加载ONNX模型路径 print('--> Loading ONNX model') ret = rknn.load_onnx(model='path_to_your_optimized_model.onnx') if ret != 0: print('Load ONNX model failed!') exit(ret) # 构建RKNN模型配置参数设置 print('--> Building model') ret = rknn.build(do_quantization=True, dataset='./dataset.txt') if ret != 0: print('Build RKNN model failed!') exit(ret) # 导出RKNN模型保存位置指定 print('--> Export RKNN model') ret = rknn.export_rknn('./yolov11.rknn') if ret != 0: print('Export RKNN model failed!') exit(ret) ``` 以上代码片段展示了如何使用Python API接口来加载、构建以及导出一个适用于Rockchip硬件加速器上的RKNN模型文件。 #### 部署与测试 当已经获得`.rknn`结尾的目标文件之后，则可以将其传输给目标设备(RK3588)，并通过编写相应的应用程序调用API函数实现图像输入输出等功能验证实际效果是否满足预期性能指标要求。
评论 6
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值