rk3588对npu的再探索，yolov5使用rknn模型推理教程

已于 2023-12-22 13:37:22 修改
阅读量1.7w 收藏 260
点赞数 78
分类专栏： Firefly开发板 文章标签： rknn rockchip ITX-3588J rk3588 rknpu
于 2022-08-17 16:29:22 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_42257666/article/details/125578222
版权

文章目录

🍉零、引言

本文完成于2022-07-02 22:22:27。 博主刚开始在瑞芯微ITX-3588J-8K的开发板上跑了官方的yolov5目标检测算法，检测了ip相机rtsp视频流，但是每帧处理需要833ms左右，和放PPT一样。本来想使用tensorrt进行加速推理，但前提需要cuda，rk的板子上都是arm的手机gpu，没有nvidia的cuda，所以不能这样适配。那么转过来，使用开发板自带的NPU进行加速推理，岂不是最佳方案，因为它本身就是人工智能开发板，不用NPU相当于没有发挥它的全部能力。

🏅然后今天（2022.7.2）成功实践了转换rknn模型，并使用npu推理。为了让后面的同学少走弯路，特此花1个h记录下RKNPU2的使用教程，因为官方教程只有Android版本，所以Ubuntu系统的都是我自己摸索出来的。上一期是使用RKNN-Toolkit的教程：rk3588使用npu进行模型转换和推理，加速AI应用落地
在这里插入图片描述

🍍一、环境信息

PC操作系统 Ubuntu18.04(x86_64)
开发板 RK3588
最低0.47元/天 解锁文章
振华OPPO
关注
  • 78
    点赞
  • 踩
  • 260
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 46
    评论
专栏目录
RK3588平台开发系列讲解（NPU篇）NPU调试方法
内核笔记
03-20 4077
📢本篇我们一起来看一下NPU的调试方法。
RK3588平台开发系列讲解（AI 篇）什么是RKNPU
内核笔记
06-21 2194
📢本篇章主要讲解什么是RKNPU。
RK3588实战：调用npu加速，yolov5识别图像、ffmpeg发送到rtmp服务器
zichuanning520的博客
03-02 2万+
rk3588做的小项目，用到ffmpeg、openCV、npu等相关部分。
rk3588使用NPU推理yolov8记录
weixin_42722350的博客
05-16 1307
rk3588 npu推理yolov8_seg记录
RK3588 高性能应用处理器详解
最新发布
weixin_43199439的博客
06-16 2190
RK3588 作为一款高性能、低功耗的应用处理器，集成了多种先进的硬件和软件技术，能够满足广泛的高端应用需求。它在高分辨率视频处理、图像信号处理、人工智能计算等方面展现了强大的性能和灵活性。未来，随着应用需求的不断增长，RK3588 有望在更多领域发挥其优势，为智能设备和嵌入式系统的发展提供更强大的技术支持。
yolov5 检测超小目标和部署RKNN
weixin_45520043的博客
11-21 311
yolov5 小目标 rknn
基于rk3588s的yolov5深度学习从训练到部署--讯飞智能车识别任务（三）
qq_62703890的博客
08-06 1091
将我们下载好的yolov5的代码解压，然后用一款IDE打开（pycharm），打开之后整个代码目录如下图：现在来对代码的整体目录做一个介绍：├── data：主要是存放一些超参数的配置文件（这些文件（yaml文件）是用来配置训练集和测试集还有验证集的路径的，其中还包括目标检测的种类数和种类的名称）；还有一些官方提供测试的图片。如果是训练自己的数据集的话，那么就需要修改其中的yaml文件。但是自己的数据集不建议放在这个路径下面，而是建议把数据集放到yolov5项目的同级目录下面。
yolov5训练出pt模型文件，转换成rknn格式并测试。
ReCallCloud的博客
09-13 2318
anaconda的使用方法和window环境下一致，先创建一个python3.6的基础环境，然后把对应版本的rknn-toolkit安装包：rknn-toolkit2/packages/rknn_toolkit2-1.5.2+b642f30c-cp36-cp36m-linux_x86_64.whl 和环境依赖的包的清单TXT文件rknn-toolkit2/doc/requirements_cp36-1.5.2.txt放到虚拟机系统中。我写这篇笔记的时候是使用相同的文件安装，所以会提示有相同的版本。
OK3588板卡上使用rknpu2加速推理yolov5和mobilenet--C语言篇（九）
shajiayu1的博客
07-25 860
也可以使用rknn_yolov5_demo自带的rknn模型文件yolov5s-640-640.rknn。RKNN SDK为带有RKNPU的芯片平台提供C语言编程接口，用于用户部署RKNN模型。rknn模型转换是在主机Ubuntu系统上进行的，代码里面需要设置好目标平台。目标检测的结果有person和bus。检测框的位置和目标的置信度。这里就省掉了交叉编译的过程，都是在OK3588板卡上操作的。把rknpu2下载到板卡，编译，然后可以运行推理程序。进入编译后的install 路径。转换的rknn模型文件。
零基础实战Keras模型转化为RKNN格式模型成功运行在RK3399Pro板子上
Together_CZ的博客
07-02 3692
深度学习实验大多是在服务器端进行的，在实际的应用中，想要把训练好的模型投入实际的应用中去的时候往往需要转化为适应于边缘端或者是移动端计算的格式，一是缩减模型大小降低原有的参数体量，二是借助于硬件环境的加速能力，提升模型的推理速度，总之就是为了能够在板子上跑的更快点。 在实际的开发实践中，我们选择使用的是RK3399Pro这个型号的板子，提供了NPU级别的硬件加速计算能力，官方的文档地址在这里，首页截图如下所示： 这里是官方给出来的云计算和边缘计算的简单对比说明： 云计...
rknn_yolov5执行流程
fuhanga123的博客
12-01 2623
RV1109上测试rknn_yolov5_demo以及分析
npu初学者参考代码
08-16
了解npu工作原理和使用的参考代码，欢迎大家下载使用！
使用c++在rk3588-3588s上运行的yolov5s简单demo(142帧-s).zip
05-16
使用线程池异步操作rknn模型, 提高rk3588/rk3588s的NPU使用率, 进而提高推理帧数 yolov5s使用relu激活函数进行优化,提高推理帧率。 使用说明 演示 系统需安装有OpenCV 下载Releases中的测试视频于项目根目录,运行...
算法部署-使用RKNN在RK3588上部署YOLOX目标检测算法-附项目源码+模型-优质项目实战.zip
05-10
5. **模型优化与部署**：在RK3588上部署YOLOX模型时，需要对模型进行优化，包括模型量化、剪枝等技术，以减小模型大小、降低内存占用和提高推理速度。RKNN工具提供了一系列的优化选项，帮助开发者实现这一目标。 6....
基于多线程异步操作rknn模型对Yolov5进行推理Python源码+文档说明.zip
02-06
使用多线程异步操作rknn模型, 提高rk3588/rk3588s的NPU使用率, 进而提高推理帧数，不过实际在使用摄像头做实时目标检测的时候帧率在25左右，所以后面打算主要使用rknpu2做板端部署，预计会快很多，有待验证 ...
使用python多线程异步提高模型部署到rk3588NPU使用率-python源码+项目使用说明.zip
05-10
使用多线程异步操作rknn模型, 提高rk3588/rk3588s的NPU使用率, 进而提高推理帧数(rk3568之类修改后应该也能使用, 但是作者本人并没有rk3568开发板......) 此分支使用模型yolov5s_relu_tk2_RK3588_i8.rknn, 将yolov5s...
rk3588rk3588s使用c++多线程异步等优化c++实现源码(yolov5运行可达到135fps)+项目使用说明.zip
05-10
使用线程池异步操作rknn模型, 提高rk3588/rk3588s的NPU使用率, 进而提高推理帧数 yolov5s使用relu激活函数进行优化,提高量化能力 rk3568等请自行修改include/rknnPool.hpp下的rknn_lite类和rknnPool的构造函数 演示 ...
RK3588使用npu运行onnx模型推理
joyopirate的博客
10-26 3091
先说总体流程，我的RK3588板子上安装了Ubuntu22.04，可以直接在上面编程1.在x86主机上安装2.使用【rknn-toolkit2】，把onnx模型转换成rknn格式的模型。3.在板子部署【rknpu2】，在程序中调用接口编程即可。
瑞芯微新一代旗舰Soc芯片RK3588详细介绍
热门推荐
dvlinker的技术专栏
03-09 7万+
瑞芯微新一代旗舰Soc芯片RK3588详细介绍
rknn rk3588s yolov5 速度
09-01
根据引用中提到的内容，可以使用RKNN工具将PC上转换后的RK3588平台模型yolov5s.rknn复制到RK3588上。也可以使用adb从PC传输到RK3588上，需要使用数据线连接3588和PC。不过在例子中已经自带了.rknn模型，所以不复制也是可以的。 根据引用中提到的目录，编译rknn_yolov5_demo，并且在板端运行可以得到运行速度。 根据引用中提到的支持平台，RK3588S是其中之一。所以，rknn rk3588s yolov5应该有较快的速度。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* *2* [rk3588对npu的再探索，yolov5使用rknn模型推理教程](https://blog.csdn.net/qq_42257666/article/details/125578222)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] - *3* [Rk3588平台安卓系统使用RKNN推理yolov5网络](https://download.csdn.net/download/hadese/86937672)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]
评论 46
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

振华OPPO

你的鼓励是我创作的最大动力！

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值