RK3568-npu模型转换

已于 2023-12-12 23:12:46 修改
阅读量780 收藏 1
点赞数
分类专栏： RK3568 文章标签： linux
于 2022-08-16 21:36:49 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_42952079/article/details/126374899
版权

工具介绍

rknn-toolkit2 用于在x86_64架构平台模型转换。
rknn_toolkit_lite2 用于在arm64架构平台部署和运行模型，不能直接用于模型转换。
rknpu2 为客户基于RKNN SDK开发自己的AI应用提供参考。

模型类型

caffe
darknet
onnx
pytorch
tensorflow
tflite

模型训练

参考链接：
https://huaweicloud.csdn.net/637f7cabdacf622b8df8603a.html?spm=1001.2101.3001.6661.1&utm_medium=distribute.pc_relevant_t0.none-task-blog-2%7Edefault%7EBlogCommendFromBaidu%7Eactivity-1-121783848-blog-107702939.pc_relevant_vip_default&depth_1-utm_source=distribute.pc_relevant_t0.none-task-blog-2%7Edefault%7EBlogCommendFromBaidu%7Eactivity-1-121783848-blog-107702939.pc_relevant_vip_default&utm_relevant_index=1
模型转换参考链接：
https://blog.csdn.net/m0_57315535/article/details/128250096
科普参考链接：
https://www.zhihu.com/question/587396300/answer/2920645504

NPU模型转换

资料链接
了解本专栏 订阅专栏 解锁全文 超级会员免费看
Paper_Love
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
订阅专栏
（十二）rk3568 NPU 中部署自己训练的模型，（2）模型转换
不见围墙
04-22 1028
对于rknn 模型部署，本人使用*.pt -> *.onnx -> *.rknn的方式。
RK3568平台开发系列讲解（NPU篇）让 NPU 跑起来
内核笔记
11-10 4634
📢本篇将介绍如何让NPU跑起来。
python版本基于瑞芯微rk3588 NPU的NanoTrack跟踪算法源码+项目操作说明(运行可达120FPS).zip
07-24
python版本基于瑞芯微rk3588 NPU的NanoTrack跟踪算法源码+项目操作说明(运行可达120FPS).zip 基于瑞芯微RK3588 NPU的NanoTrack跟踪算法，可运行于RK3588开发板，可达120FPS. dependence ``` numpy opencv rknn_toolkit_lite2 == 1.3 ``` RKNN3588对应的rknn_toolkit_lite2官方开发库以及开发文档请参考[rknn-toolkit2](https://github.com/rockchip-linux/rknn-toolkit2) demo 模型转换需先使用rknn-toolkit2转为.rknn格式 ``` python3 main.py ``` - video_name 为目标视频地址 - init_rect 为初始检测bbox
RK3568平台（基础篇）记一次优化线程提高CPU占有率
weixin_49303682的博客
05-18 204
进程：进程是操作系统中分配资源的最小单位，每个进程 都拥有独立的内存空间、代码段、数据段、堆栈和文件描述符等资源，进程之间通常需要通过 进程间通信（IPC）机制进行数据交换和协同操作。但是创建和销毁进程的开销较大，而且进 程之间通信的机制比较复杂。线程：线程（thread）是进程中的一个执行流程，是操作系统中调度的最小单位，每个线程都共 享同一进程的资源，包括内存空间、文件描述符等。
瑞芯微 rk3568的npu使用，部署unet网络
tony365的博客
12-19 2976
模型转换是 RKNN-Toolkit2 的核心功能之一，它允许用户将各种深度学习模型从不同的框架转换为 RKNN 格式以在 RKNPU 上运行，用户可以参考模型转换流程图以帮助理解如何进行模型转换。因此如下图，输入的 uint8的image data, 然后归一化到0-1，因为设置了 outputs[0].want_float=1,然后model infer 得到 float data,范围 0-1. 以上全在 npu中进行，也就是全在rknn_run中进行，因为使用的时零拷贝 api.
RK3568 OpenHarmony3.2 AI NPU适配
Martian_Jonas的博客
07-12 848
Neural Network Runtime（NNRt, 神经网络运行时）是面向AI领域的跨芯片推理计算运行时，作为中间桥梁连通上层AI推理框架和底层加速芯片，实现AI模型的跨芯片推理计算。本文介绍芯片厂商如何在将专有加速芯片接入NNRt，接入OpenHarmony社区生态。整体适配思路：在虚拟机平台上通过Build.gn的方式编译得到可执行文件, 然后将可执行文件及对应鸿蒙系统的api库文件推送到板子，最后将.rknn后缀结尾的模型文件以及图片文件等输入资源拷贝至RK3568进行模型的运行。
【RK3568+RV1126】NPU算力集成
泛在安防边缘智能视频分析
03-06 764
Mini-PCIe接口的RV1126算力棒，单片算力可达2.0TOPS@INT8算力，最高可支持4路1080P@25fps的相机接入及解码，支持TensorFlow、Caffe、ONNX、Darknet等框架的网络模型转换。通过瑞芯微RK3568使用USB RNDIS网络与多个RV1126算力棒进行网络通信，打造多算力集群，同时进行AI运算处理，NPU算力集成不仅能增加算力，更能灵活的控制成本，具有更高的性价比，更低的功耗。
（十二）rk3568 NPU 中部署自己训练的模型，（1）使用yolov5训练自己的数据集-环境搭建部分
不见围墙
04-22 1348
yolov5在yolov3的基础上有很大提高，在保持准确率的情况下，模型更小，更适合轻量化的嵌入式产品部署。NVIDIA 驱动下载：https://www.nvidia.cn/Download/index.aspx?对于cudnn直接将其解开压缩包，然后需要将bin,include,lib中的文件复制粘贴到cuda的文件夹下。cuda下载链接：https://developer.nvidia.com/cuda-downloads?以上三个都是按照自己的电脑显卡配置、以及操作系统来下载的，不可以随意下载。
（十二）rk3568 NPU 中部署自己训练的模型，（1）使用yolov5训练自己的数据集-模型训练部分
不见围墙
04-22 880
训练完成后，在runs/train/exp/weights/目录下生成两个模型文件一个last.pt 一个best.pt。yolov5_train.txt和yolov5_val.txt分别给出了训练图片文件和验证图片文件的列表，在yolov5下生成了两个文件yolov5_train.txt和yolov5_val.txt。YOLOLabels下的文件是images文件夹下每一个图像的yolo格式的标注文件，images文件夹下有train和val文件夹，分别放置训练集和验证集图片；之后点击“Commits”
linux（Debian）RK3568+qt5+rknn模型视频检测项目
05-10
yolov5-6.0项目部署+自用Pytorch模型转换rknn模型并在RK3568 linux(Debian)平台上使用qt部署使用NPU推理加速视频目标识别
RK3566全套设计资料.rar
06-10
此外，凭借其强大的兼容性，可以轻松地转换基于TensorFlow / MXNet / PyTorch / Caffe等一系列框架的网络模型。 RK3566具有高性能的外部存储器接口（DDR3 / DDR3L / DDR4 / LPDDR3 / LPDDR4 / LPDDR4X），能够维持...
RK3568 NPU rknn-toolkit2.1
09-07
RK3568 NPU rknn-toolkit2.1
基于RK3588实现YOLOv5s模型多线程板端推理C++源码(含项目说明+rknn模型）.zip
05-30
模型转换 * yolov5工程下export.py转换onnx，直接转，切忌修改batch_size * 参考网上方法，rknn-toolkit2进行onnx转rknn，需要修改./rknn-toolkit2/examples/onnx/test.py为本工程test.py ### 演示 * 系统需安装...
基于YOLOv5和RK3588多线程的单目相机测距C++板端实现源码+项目说明+rknn模型.zip
05-30
### 模型转换 * yolov5工程下export.py转换onnx，直接转，切忌修改batch_size * 参考网上方法，rknn-toolkit2进行onnx转rknn ### 演示 * 系统需安装有**OpenCV**，如果需要读取AHD摄像头还需要安装**gstreamer**...
RK3568平台开发系列讲解（调试篇）系统运行相关频率设置
内核笔记
09-17 1168
📢 CPU 默认是 interactive 状态，它会根据 CPU 使用率和目标负载来动态地调整 CPU 频率。为获得更高运行速度或者性能评估，我们需要手动固定频率。
RK3568|3588|3566处理器属于什么档次?
m0_62877454的博客
05-16 1570
随着科技的迅猛发展，处理器作为计算机和电子设备的核心组件，其性能的提升对于设备的功能和用户体验起着至关重要的作用。在处理器市场中，不同的处理器被划分为不同的档次，以便用户能够更好地选择适合自己需求的产品。
迅为RK3568开发板Linux_NVR_SDK系统开发-查看NPU/GPU/CPU频率使用率
mucheni的博客
09-01 2714
1 输入以下命令挂载 debug，只有挂载 debug 才可以查看 NPU/GPU/CPU 频率使用率。iTOP-RK3568 开发板烧写 Linux_NVR_SDK 镜像，在串口终端输入以下命。7 使能 CPU 性能模式,跑最高频，输入以下命令。令查看 NPU/GPU/CPU 频率使用率。3 查看 GPU 频率，输入以下命令。或者输入以下命令查看 GPU 频率。...
RK3568笔记三：部署ResNet50模型
10-18 704
若该文为原创文章，转载请注明原文出处。通过ResNet50网络训练了识别10类车的模型并成功了转换成了onnx模型具体训练过程可以参考文章这里部署使用rknn-toolkit2工具转换成RKNN模型并测试rknn-toolkit2工具安装在前面文章有説明了，自行安装。接下来测试并转成RKNN模型。
Linux开发讲课7---Linux sysfs文件系统
最新发布
qq_42837317的博客
06-21 1094
Sysfs通过文件和目录的方式组织信息，其中每个文件或目录对应于系统中的一个设备、驱动程序或者其他内核对象。当内核中的设备、驱动程序等对象被创建时，相应的Kobject也会被创建，然后通过Sysfs将其信息暴露给用户空间。Sysfs通常被挂载在/sys目录下，它提供了一种方便的方式，让用户空间的程序可以动态地获取和管理系统中的设备信息，而无需直接访问内核数据结构。（2）创建sysfs文件。其中attr表示将要创建的文件（属性），而show和store分别表示对应的sysfs文件在读和写操作时的回调函数。
rk3588 c++ npu
07-27
根据引用\[3\]，你可以将转换后的RK3588平台模型复制到rknpu2/examples/rknn_yolov5_demo/model/RK3588/目录下，然后使用ADB工具将模型传输到RK3588上。当然，示例代码中也自带了.rknn模型，所以你也可以直接使用...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Paper_Love

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值