rknn-toolkit2示例交叉编译部署教程

最新推荐文章于 2025-04-05 09:00:00 发布

mxf131

最新推荐文章于 2025-04-05 09:00:00 发布

阅读量1.1k

点赞数 13

文章标签：目标检测 linux

本文链接：https://blog.csdn.net/weixin_43662868/article/details/135520086

版权

1、转到目标目录

切换目录到想要部署的模型文件夹下，本次示例为yolov5
在这里插入图片描述

2、下载编译工具链

apt install cmake

apt-get install gcc-aarch64-linux-gnu g++-aarch64-linux-gnu

3、使用示例脚本编译

在这里插入图片描述

4、复制编译安装的文件夹到linux板子

编译安装好的文件在 ./install 目录下，方式有很多，在同一个局域网络下，传输工具就可以；实在不行拿U盘拷贝也是可以的。
在这里插入图片描述

5、给执行权限

在linux板子上执行，之后的步骤也都是在RK3588的板子上操作。

chmod +x rknn_yolov5_demo

在这里插入图片描述

6、执行测试

./rknn_yolov5_demo ./model/RK3588/yolov5s-640-640.rknn ./model/bus.jpg letterbox ./result.jpg

在这里插入图片描述

7、测试结果

在这里插入图片描述

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

mxf131

关注关注

13
点赞
踩
11

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

RKNN-Toolkit2相关API介绍（二）

zichuanning520的博客

07-12

6385

RKNN-Toolkit2相关API的介绍及其在RK3588上的使用

编译rknn_demo所缺少的库和头文件及 cmakelists.txt

05-06

编译瑞芯微sdk所包含的rknn_demo所缺少的库及头文件整理及cmakelist.txt修改

参与评论您还未登录，请先登录后发表或查看评论

ELF2开发板（飞凌嵌入式）搭建深度学习环境部署（RKNN环境部署）

wuboy19的博客

02-04

1132

RKNN-Toolkit2 是由瑞芯微电子开发的一套深度学习模型优化和推理工具。它支持多种深度学习框架（如 Caffe、TensorFlow、PyTorch 等）的模型转换为 RKNN 格式，并提供了模型转换、量化、推理等功能。RKNN-Toolkit2 主要面向在瑞芯微 SoC 上进行 AI 应用开发，但也可以用于 PC 平台进行模型的转换、量化、推理等操作。

[工程部署]rknn-toolkit以及rknpu_sdk环境搭建--以rk3588为例

嵌入式人工智能相关

04-14

8537

rknn-toolkit以及rknpu_sdk环境搭建--以rk3588为例，后续会继续更新yolov7部署在3588的相关教程

RK系列芯片配置交叉编译环境

qq_41421755的博客

02-15

1071

RK3568芯片配置交叉编译环境

rknntoolkitlite2环境搭建

xinxin的博客

08-29

2607

RKNN Toolkit Lite2 工具支持运行在开发板上系统 python 版本为 3.7 或者 3.9 版本。作者使用的开发板上面的Ubuntu系统为22.04版本的。

rk1808交叉编译opencv_测评分享丨RK3399开发板+RK1808人工智能计算棒（主动模式）...

weixin_39730284的博客

12-20

1322

高效赋能AIoT生态链：本教程以飞凌嵌入式RK3399平台为例，讲述主动模式的人工智能计算棒部署流程。01硬件平台平台：OK3399-C开发板系统：Desktop模块：TB-RK1808S0环境准备：飞凌OK3399-C开发板，RK1808人工智能计算棒(固件版本为V1.3.4)，usb摄像头，摄像头和计算棒都插入OK3399-C开发板。使用lsusb命令查看，如下(红框部分2207:001...

rknn-toolkit-v1.7.3-packages

05-04

"rknn-toolkit-v1.7.3-packages" 是Rockchip公司推出的RKNN（Rockchip Neural Network）工具包的一个版本，主要用于AI模型的部署和优化。RKNN是针对嵌入式设备，特别是Rockchip处理器设计的深度学习推理框架，旨在...

RK3588芯片NPU的使用：Windows11使用RKNN Docker运行YOLOv5目标检测模型

最新发布

懒人的技术笔记

04-05

1138

瑞芯微的NPU工具集调整后放到新的仓库，名曰，它包括toolkit2和toolkit-lit2，以及rknpu2。下面简单介绍这三个库都是干什么的。

（详细使用指南）Linux下交叉编译带ffmpeg的opencv并移植到RK3588等ARM端

共同进步！

02-25

5727

交叉编译是指在一台计算机上生成目标平台的可执行程序。通常情况下，我们在开发软件时会在同一平台上编译、运行程序，但有时候需要将程序部署到不同体系结构或操作系统的设备上运行，这就需要使用交叉编译工具链来生成适用于目标平台的可执行文件。常见的应用场景包括在开发嵌入式系统、移动应用程序或跨平台软件时进行交叉编译。

幸狐RV1106开发板运行Yolo8示例

qq_42730522的博客

12-02

1568

rknn_model_zoo 是瑞芯微官方提供的 RKNPU 支持的各种主流算法的部署示例，目前对 Luckfox Pico 所使用的 RV1103/RV1106 有限支持，最新的示例支持 mobilenet 模型部署和 yolo 模型部署，本章以部署 yolov8修改版本为例介绍 rknn_model_zoo 示例的使用。：可选项，用于指定 RKNN 模型的保存路径，默认保存在 ONNX 模型同一目录下，名称为 ‘yolov8.rknn’例如“rv1106”。

rknn_toolkit_lite2-2.0.0b0-cp37-cp37m-linux_aarch64.whl

03-31

rknn_toolkit_lite2-2.0.0b0-cp37-cp37m-linux_aarch64.whl

RKNPU2从入门到实践 ---- 【9】使用RKNPU2的C API接口将RKNN模型部署在RK3588开发板上

xinxin的博客

08-30

3014

本博文我们要学习使用 RKNPU2 提供的 C API 接口将RKNN模型部署在RK3588开发板上，完成测试图片在开发板上的推理工作。C API接口可以根据帧数据的更新方式分为通用API和零拷贝API。而这一篇博文主要介绍通用 API 接口。rknn_init 初始化函数将创建 rknn_context 对象、加载 RKNN 模型以及根据 flag 和 rknn _init_extend 结构体执行特定的初始化行为。示例代码如下：通过 rknn_inputs_set 函数可以设置模型的输入数据。

踩坑RV1106板端部署rknn模型

weixin_45715405的博客

12-28

5069

按照官方的流程可以跑通，他自己提供的yolov5s.rknn（640*640）的模型，但是跑自己的模型的时候加载就会出错E RKNN: failed to decode config data!这个文件就是源码里面埋了很大一个坑，取反了，模型输入要求是NHWC，但是他将h取到w上面了，所以出现错乱，为什么官方自己的模型没问题推理是正常的，因为官方的是640*640，高宽尺寸是一致的，所以没有出现这个bug。如果直接拿自己的模型不修改代码，直接推理，会出现这种报错，就是类别没有对上。修改之后再次验证正常了。

RKNN-ToolKit2 1.5.0安装教程

北屿的博客

07-13

8515

由于种种原因需要用到开发版RK3568，需要预先安装RKNN-Toolkit2进行模型转化等，博主安装的版本是1.5.0，Ubuntu版本是20.04，python版本3.6。1、原本准备采取docker安装，但是文件有点大再加上网速不行，于是我们采用pip方法进行安装。，直接点击下载，得到rknn-toolkit2-master.zip，并且解压到任意文件夹中。

RKNN 和rknn-toolkit2

xie__jin__cheng的博客

09-13

1219

RKNN 和rknn-toolkit2

【亲测可行】最新ubuntu搭建rknn-toolkit2

分享计算机视觉，C++，网络摄像头研发，音视频开发，嵌入式等知识。

10-12

1480

配置conda的镜像源。出现上图就是安装成功！

瑞芯微推理RKNN使用

u011489887的专栏

02-05

1970

toolkit2 官网资料野火实践指南

用rknn-toolkit2_2.0.0在RK3588上部署YOLOv8

creeper_boom的博客

07-16

3062

在运行推理代码之前，我们还需要更换板端的rknpu驱动库文件，我的rk3588是firefly出的，他们家的的SDK中rknpu目前只更新到了1.5.0，因此需要手动更新。rockchip官方为了将不同格式的神经网络模型文件转换为rk芯片支持的rknn格式而打包的python库项目，可以通过pip安装。推理代码我选择adb连板调试，我在之前的基础上做了一点修改，主要体现在输入的resize和输出坐标的转换上。以YOLOv8为例，路径。③这样的替换可以跑推理程序，完善的推理需要参照rknpu中的文档说明。

yolov8推理rknn需要哪些依赖项

03-20

<think>好的，我需要回答用户关于YOLOv8在RKNN推理时的依赖项问题。首先，我需要理解RKNN是什么，以及YOLOv8部署到Rockchip平台的基本流程。用户提到的引用中，引用[3]提到RKNN用于将YOLOv11 Pose模型转换为Rockchip硬件支持的格式，这同样适用于YOLOv8。所以，依赖项可能包括RKNN Toolkit、Rockchip NPU驱动、YOLOv8模型转换工具等。根据常见的深度学习部署流程，依赖项通常分为软件和硬件两部分。软件方面需要RKNN的开发套件，用于模型转换和推理；硬件则需要支持NPU的设备，如RK3588。另外，模型转换时可能需要ONNX作为中间格式，因此ONNX的依赖库也是必要的。用户可能还需要知道如何安装这些依赖，比如通过pip安装rknn-toolkit2，或者从Rockchip官网获取SDK。此外，Python环境、必要的深度学习框架如PyTorch，以及OpenCV等图像处理库也可能需要。需要注意不同Rockchip芯片型号对应的RKNN Toolkit版本可能不同，需要版本匹配。同时，模型量化可能需要校准数据集，这也是依赖的一部分。总结下来，依赖项应包括： 1. RKNN Toolkit 2. Rockchip NPU驱动和固件 3. Python环境及相关库（numpy, opencv-python） 4. 模型转换工具（如导出ONNX） 5. 校准数据集（用于量化） 6. 硬件设备（如RK3588）可能还需要交叉编译工具链，如果是在x86主机上转换模型后部署到嵌入式设备。同时，确保操作系统支持相应的内核模块和驱动。最后，根据用户提供的引用，需要正确标注引用来源，比如引用[3]提到生成ONNX，这可能涉及到模型导出步骤中的依赖。</think>在使用YOLOv8进行RKNN推理时，依赖项可分为**软件环境**、**硬件平台**和**模型转换工具**三部分。以下是具体内容： --- ### 一、软件环境依赖 1. **RKNN-Toolkit2** Rockchip官方提供的模型转换和推理工具包，支持模型量化、优化和部署[^3]。需通过Python安装： ```bash pip install rknn-toolkit2 ``` 2. **Python基础库** - `numpy`: 数值计算 - `opencv-python`: 图像预处理/后处理 - `onnx`或`onnxruntime`: 用于中间模型格式转换 3. **深度学习框架** 需安装PyTorch以加载原始YOLOv8模型（Ultralytics官方实现）： ```bash pip install torch torchvision ultralytics ``` --- ### 二、硬件平台依赖 1. **Rockchip NPU设备** 如RK3588、RV1126等支持NPU加速的芯片，需确保已安装对应驱动和固件[^2][^3]。 2. **操作系统兼容性** - Linux环境（推荐Ubuntu 18.04/20.04） - 嵌入式设备需运行Rockchip定制版Linux或Android系统。 --- ### 三、模型转换依赖 1. **YOLOv8模型导出为ONNX** 需通过Ultralytics库将`.pt`模型转换为ONNX格式[^3]： ```python from ultralytics import YOLO model = YOLO("yolov8n.pt") model.export(format="onnx") ``` 2. **校准数据集** 模型量化（INT8）需提供代表性数据集（约100~200张样本图片）[^3]。 --- ### 四、部署流程示例 ```python # 示例：RKNN模型加载与推理 from rknn.api import RKNN rknn = RKNN() # 加载ONNX模型并转换 rknn.config(target_platform='rk3588') rknn.load_onnx(model="yolov8n.onnx") rknn.build(do_quantization=True, dataset="calib_data.txt") rknn.export_rknn("yolov8n.rknn") # 初始化RKNN并推理 rknn.init_runtime(target="rk3588") outputs = rknn.inference(inputs=[input_image]) ``` ---