PyTorch模型转RKNN实战（2）：模型转换与推理步骤

最新推荐文章于 2025-10-16 18:26:41 发布

原创

最新推荐文章于 2025-10-16 18:26:41 发布 · 328 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#pytorch #人工智能 #python

通过rknn自带图形界面进行转化

python3 -m rknn.bin.visualization

不进行量化

推理时rknn模型会对输入数据进行标准化，就是（x-mean value）/standard value这里就是让数据不进行变化

由于输入不是图形recorder channel 顺序 0 1 2，不改变顺序

产生了rknn文件，将其移动如下列文件

这里创建一个文件里面有两个文件，其中py文件为

from rknnlite.api import RKNNLite as RKNN
import numpy as np
model='linear_model.rknn'
inp

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

fengbeely

关注关注

1
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

RK3588平台YOLOv8模型转换与部署实战：从PyTorch到RKNN的全流程优化及CentOS 7.8 Docker镜像加速指南

LXY_LOVE36的博客

07-04

448

本文以**火焰检测**为例，结合瑞芯微官方工具链，提供一套从模型训练到边缘部署的完整解决方案，涵盖： - YOLOv8模型裁剪与RKNN转换的工程细节 - CentOS 7.8下Docker镜像源加速的实测有效方案 - RK3588平台推理性能优化技巧

ONNX转RKNN遇到问题，如何解决？

**My Coding Family**

02-02

1278

通过上述方法，可以逐步排查并解决问题。

参与评论您还未登录，请先登录后发表或查看评论

rknn调用pytorch模型（2）-转换为rknn模型并进行推理

roymustang的博客

05-21

4346

通过rknn自带图形界面进行转化 python3 -m rknn.bin.visualization 不进行量化产生了文件

RKNN部署记录-2（RKNN python API安装，使用

phoenixlxl的博客

05-06

2635

将 .\rknpu2\runtime\Linux\librknn_api\aarch64\librknnrt.so 文件复制到Linux下 /usr/bin/目录下即可成功运行。安装pip，numpy，ruamel.yaml，psutils。安装rknn-toolkit lite 2。python脚本运行板端推理。查询python版本并退出。还有一些遇到的问题见。

PyTorch 到 RKNN 模型转换完整指南

热门推荐

机器人涮火锅的博客

01-13

2万+

将pth模型转换成rknn模型，然后调用rknn模型进行测试

pytorch模型转换为rknn模型，使用npu推理

振华OPPO的博客世界

10-24

8566

然后在rknn文件夹下，找到onnx2rknn.py、dataset.txt和coco2017数据集，将它们复制到新的文件夹中，作为rknn模型转换目录。🎼量化精度分析：该功能将给出模型量化前后每一层推理结果与浮点模型推理结果的余弦距离，以便于分析量化误差是如何出现的，为提高量化模型的精度提供思路。🏋性能和内存评估：将 RKNN 模型分发到指定 NPU 设备上运行，以评估模型在实际设备上运行时的性能和内存占用情况。pt模型的输入图像的通道一定要和转换时的图像通道数相同，对于RGB图像肯定是3通道。

模型部署——使用rknn-toolkit将Pytorch模型转为RKNN模型（详细图文教程）

qq_40280673的博客

02-24

1万+

使用rknn-toolkit将Pytorch模型转为RKNN模型

【嵌入式AI开发】RK3588 NPU驱动安装与RKNN Toolkit使用指南：实现高效神经网络模型部署

10-05

随后系统阐述了RKNN Toolkit的三种环境搭建方式（直接安装、conda虚拟环境、Docker）、模型转换与推理的基本流程，并通过PyTorch模型转RKNN格式的实战案例展示了完整的操作步骤。最后对整个AI开发链条进行了总结与...

RK3588平台YOLOv8人体姿态估计模型部署实战：从ONNX到RKNN的完整转换与优化指南

LXY_LOVE36的博客

07-04

581

本文详细介绍了将YOLOv8-Pose人体姿态估计模型部署到RK3588边缘设备的完整流程。主要内容包括：1）模型转换（PyTorch→ONNX→RKNN），重点解决格式兼容性和量化问题；2）后处理优化，改进关键点解码和NMS算法；3）RK3588平台性能调优，通过内存管理和NPU配置实现43ms低延迟推理。文章还提供了舞蹈动作识别等实战案例，并包含详细的环境配置、代码实现和性能对比数据。配套资源：资料链接[1]、视频讲解[2]。 [1] 模型转换工具包下载链接 [2] 部署实战视频教程链接（全文148字

Pytorch模型如何转rknn模型（基于SSD的目标检测算法）

weixin_41166529的博客

06-06

4873

Pytorch模型（基于SSD的目标检测算法）如何转为rknn模型

yolov5_for_rknn:PyTorch中的YOLOv5> ONNX> RKNN

05-10

原版仓库：修改版 yolov5 使用方法环境要求：python version >= 3.6 模型训练：python3 train.py 模型导出：python3 models/export.py --weights "xxx.pt" 转换rknn：python3 onnx_to_rknn.py 模型推理：python3 rknn_detect_yolov5.py 注意事项：如果训练尺寸不是640那么，anchors会自动聚类重新生成，生成的结果在训练时打印在控制台，或者通过动态查看torch模型类属性获取，如果anchors不对应那么结果就会出现问题。建议：在训练时如果size不是640，那么可以先通过聚类得到anchors并将新的anchors写入到模型配置文件中，然后再训练，防止动态获取的anchors在rknn上预测不准的问题。训练参数别忘记加上 --noautoanchor

pytorch模型转化为rknn模型

roymustang的博客

04-23

4032

首先pytorch模型要先转化为onxx模型，然后从onxx模型转化为rknn模型直接转化会出现如下问题，环境都是正确的，论坛询问后也没给出准确答案说是版本问题 --> Loading model ./final.pt ******************** 加载失败 E Catch exception when loading pytorch model: ./final.pt! E Traceback (most recent call last): E File "rknn\api\rk

模型部署——RKNN模型的评估和推理测试（附代码）

qq_40280673的博客

02-25

1万+

RKNN模型的评估和推理测试

rknn模型推理（rvnn1126）

liqian343266的博客

02-25

619

在rknn虚拟环境下，安装深度学习框架，如Tensorflow，Pytorch等。执行成功，会在当前目录生成一个install目录。然后验证是否安装成功：没有报错就ｏｋ。等待下载完成后，手动提取到当前文件夹。如下链接下载交叉编译工具：ＧＣＣ。运行build.sh脚本。创建rknn虚拟环境。

rknn推理从入坑到入土

weixin_68494476的博客

12-11

2058

rknn是瑞芯微的一个npu推理框架，相对于老黄的生态，虽然生态没有cuda生态好，但是起码坑比较少，以下总结下如何开始推理，以yolov8为例。

模型转RKNN及调用--PC端

ayiya_Oese的博客

12-12

6184

模型转RKNN及调用–PC端在模型需要部署到瑞芯微(RK)的智能硬件平台时，需要转换模型为.rknn模型。通过RK提供的rknn-toolkit可以很容易地实现模型的转换，现对容易。 RK不可能一下子就把所有都实现了，他们正在慢慢的实现各种深度学习算法模型所需要的计算操作。因此，有时候也免不了会遇到某些计算操作不支持的情况，这时候就需要自己去实现该操作为自定义操作了。以下是一些记录，当做备忘吧，毕竟好多已经忘记了转rknn: rknn = RKNN() #实例化RKNN rknn.config(c

Yolov5笔记--RKNN推理部署源码的粗略理解

牵一只蜗牛去散步

05-27

5749

1--基础知识 ①Yolov5的输出格式一般为a ×b × c × 85的形式，其中a*b*c表示框的数目，85则涵盖框的位置信息（x，y，w，h）、置信度Pc和80个类别的预测概率c1，...，c80。下图展示了不同版本Yolov5的输出信息： ②阈值过滤锚框简要介绍两种过滤锚框的方法： A：利用置信度（box_confidence，即Pc）和预测概率（box_class_probs，即c1，...，c80）计算锚框的得分（box_scores），如果最高的得分高于过滤阈值（thr.

RK1808 RKNN API调用流程

zfjBIT的专栏

12-17

3709

RKNN API调用流程：通过该API去调用NPU(神经网络计算单元)： 1.读取rknn模型文件(使用RKNN模型工具生成的.rknn文件)到内存 2.使用rknn_init进行context初始化,加载rknn模型 3.使用rknn_query获取input,output的属性 4.使用rknn_input_set对inputs进行设置 5.使用rknn_run进行单次推理操作 6.使用rk...