rk3588部署深度学习模型

原创

已于 2024-07-21 22:54:27 修改 · 1.3k 阅读

8 ·

CC 4.0 BY-SA版权

文章标签：

#深度学习 #人工智能

于 2024-02-28 20:57:55 首次发布

1.部署seg

笔者试过paddleseg和mmseg里的fastscnn，后者比前者更快，故部署时选用了该模型。
流程：
1.导出onnx
2.在x86的Ubuntu中安装好rknntoolkit后(注意这里的toolkit要和板子上推理的toolkitlite版本对齐)，写转换脚本，流程为

rknn = RKNN(verbose=True) #创建RKNN执行对象
rknn.config(mean_values=[[123.675, 116.28, 103.53]]

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

梦里是南柯

关注关注

2
点赞
踩
8

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

RK3588平台开发系列讲解（嵌入式AI篇）嵌入式AI模型的部署

内核笔记

11-23

2691

📢 本篇将给大家介绍嵌入式AI模型的部署。

rk3588 rknntoolkit模型转换及部署

weixin_42064949的博客

06-07

419

cankao。

参与评论您还未登录，请先登录后发表或查看评论

目标识别模型yolov5,RK3588完整部署+使用教程

weixin_47752005的博客

09-18

561

yolov5部署开发

瑞芯微rk3588部署yolov5模型实战

Silver__Wolf的博客

08-11

4713

瑞芯微rk3588部署yolov5模型实战/ 包括模型转换以及部署

Python----算法移植（RK3588部署多模态大模型）

weixin_64110589的博客

07-18

2187

本文详细介绍了在RK3588开发板上部署多模态大模型的全流程。主要内容包括：1) 硬件环境要求（Ubuntu20.04虚拟机/RK3588开发板）和软件环境配置（Python3.8、rkllm-toolkit等）；2) 模型转换方法，支持LLaMA、ChatGLM3等多种模型及多种量化方式；3) 具体部署步骤：从HuggingFace获取模型、安装转换工具、模型格式转换（ONNX到RKNN/RKLLM）、交叉编译C++程序；4) 性能基准测试数据，展示了不同模型在RK3588上的推理速度、内存占用等指标；5

RK3588 采用NPU 深度学习， opencv+onnx边缘计算

hxy527的博客

07-07

887

本文记录验证RK3588 +opencv + npu 边缘计算，物体识别，为了便于进行交互和互联网开发，我们在Android14版本上运行情况，Ubuntu系统也差不多。板子配置如下。RK3588+Android14+8G内存+128G EMMC从单个NPU性能上对比，RK3588相比RK3566和RK3568性能提升很大，用640分辨率进行推理，NPU推理单次耗时约42ms，基本能达到23帧左右，如果通过对算法和资源进行优化基本可以跑60帧，

RK3588部署YOLOv8

最新发布

10-01

pytorch是深度学习领域广泛使用的一个开源机器学习库，它支持强大的GPU加速以及自动求导功能，非常适合用于进行深度学习模型的训练。在训练完成后，开发者需要将训练得到的模型保存为.pth格式的文件，这是pytorch...

YOLOv11人形车辆检测模型移植部署瑞芯微RK3588开发板C++完整源码（含使用说明+rknn模型）-精度损失小.zip

04-03

YOLOv11人形车辆检测模型移植部署瑞芯微RK3588开发板C++完整源码（含使用说明+rknn模型）-精度损失小.zip 【资源介绍】 yolov11算法模型移植部署rk3588，含demo推理完整源码（可交叉编译运行），转换好的rknn模型及...

在RK3588上部署PPYOLOE模型

qq_41808475的博客

04-30

1567

是基于PP-YOLOv2的卓越的单阶段Anchor-free模型，超越了多种流行的YOLO模型。PP-YOLOE有一系列的模型，即s/m/l/x，可以通过width multiplier和depth multiplier配置。

瑞芯微 Rockchip 系列 RK3588 部署 yolo11 模型推理教程

Leon_Chenl的博客

02-07

5491

在上一篇文章中，我介绍了如何在瑞芯微 Rockchip 系列芯片将主流深度学习框架模型转换为 RKNN 模型。在这篇文章，我将介绍如何在瑞芯微 Rockchip 系列 RK3588 芯片上部署 yolo11 模型推理。本文章会使用到上一篇文章转换的 rknn 模型，因此如果还没看过上一篇文章的同学，建议优先阅读上一篇文章。本教程不仅适合 RK3588 平台，也适合其他 RK 系列平台，例如 RK3566、RK3568、RK3562 等。具体平台请参考RKNN-Toolkit2 文档。

在 RK3588 开发板上部署 DeepSeek 大模型

Taylor_0522的博客

06-19

2184

（高效低延迟）和（简易但性能受限）。

RK3588：Rknn模型转换及部署YOLOV8模型教程--飞凌

weixin_47464132的博客

09-25

5135

rk3588部署YOLOV8模型

Python----算法移植（RK3588部署deepseek对话大模型）

weixin_64110589的博客

07-15

1842

本文详细介绍了在RK3588开发板上部署大语言模型的完整流程，包括从HuggingFace下载模型、使用RKLLM-Toolkit工具进行模型转换和量化，到在开发板上通过C++程序或Python服务（Flask/Gradio）进行推理部署的全过程。方案支持TinyLLAMA、Qwen等多种模型，并提供性能优化技巧，如NPU定频和量化选择，最终实现在边缘计算设备上高效运行大语言模型，适用于低功耗、高性能的AI应用场景。

RK3588+opencv+libtorch+ffmpeg环境，测试深度学习模型

qq_45032667的博客

05-17

939

最近在RK3588上面搭建环境测试深度学习模型，前后忙活一周多，为了以后遇到此类事情可以提高效率特此记录。

RK3588环境部署教程

qq_44129924的博客

04-30

3471

1、安装完成后设置linux和win之间可以相互复制、粘贴，教程https://blog.csdn.net/ssz__/article/details/126921531。进入rknn-toolkit2-15\rknn_toolkit_lite2\examples\inference_with_lite文件，5、安装rknn库，进入rknn–toolkit2文件的rknn_toolkit_lite2>package，注意这个安装aarch版本。即可，安装完成后打开终端，会出现（base）即安装成功。

基于rk3588s的yolov5深度学习从训练到部署--讯飞智能车识别任务（四）

qq_62703890的博客

08-07

3924

首先，参照官方的RKNN文档的操作，将对应的部分进行修改。yolov5工程中的文件中的类里forward代码进行修改，内容如下。注意：修改后此工程将不可进行训练模型程序，会出现报错。修改完成后我们可以直接对export.py进行修改导出，也可通过传参的方法运行export.py进行导出。将训练得到的best.pt复制到export.py同一级文件夹下。在命令终端输入以下命令即可传参导出之后，在export.py的同级目录下，就会生成best.onnx这个文件，我们需要做的就是把这个文件复制到我们的。