RK3568-npu模型转换推理

最新推荐文章于 2024-08-17 10:18:08 发布
最新推荐文章于 2024-08-17 10:18:08 发布
阅读量94 收藏
点赞数
分类专栏： RK3568 文章标签： linux
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_42952079/article/details/140932343
版权

1. rknn-toolkit2-1.4.0进行模型转换和模型推理

1.1 虚拟机转换和模拟器推理（要求ubuntu18+python3.6）

sudo apt-get install python3 python3-dev python3-pip
sudo apt-get install libxslt1-dev zlib1g-dev libglib2.0 libsm6 libgl1-mesa-glx libprotobuf-dev gcc
cd ~/rknn-toolkit2-1.4.0
python3 -m pip install --upgrade pip -i https://pypi.douban.com/simple/
pip3 install numpy -i https://pypi.douban.com/simple/ --trusted-host pypi.douban.com
pip3 install launchpadlib==1.10.6 -i https://pypi.douban.com/simple/ --trusted-host pypi.douban.com
pip3 install -r doc/requirements_cp36-1.4.0.txt -i https://pypi.douban.com/simple/ --trusted-host pypi.douban.com
pip3 install packages/rknn_toolkit2-1.4.0_22dcfef4-cp36-
了解本专栏 订阅专栏 解锁全文 超级会员免费看
Paper_Love
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
订阅专栏
npu推理代码
qq_43994782的博客
04-18 1208
npu 推理代码（这个直接抄的朋友的代码~我试过可以运行，不过环境配置挺费劲的。。） 我一般也用不到npu，这里就放在这儿，以备不时之需吧。 python3 -m bmnetp --model=mnist_jit_0.98.pth --shapes="[(1,1,28,28)]" --net_name="mnist" --target=BM1684 --outdir=. import sys import cv2 import numpy as np import sophon.sail as sail
瑞芯微 rk3568的npu使用，部署unet网络
tony365的博客
12-19 3935
模型转换是 RKNN-Toolkit2 的核心功能之一，它允许用户将各种深度学习模型从不同的框架转换为 RKNN 格式以在 RKNPU 上运行，用户可以参考模型转换流程图以帮助理解如何进行模型转换。因此如下图，输入的 uint8的image data, 然后归一化到0-1，因为设置了 outputs[0].want_float=1,然后model infer 得到 float data,范围 0-1. 以上全在 npu中进行，也就是全在rknn_run中进行，因为使用的时零拷贝 api.
【使用RK3568S内置NPU加速yolov5推理】
最新发布
weixin_47869094的博客
08-17 1232
每一行有6个，把我框起来的部分复制即可，这里要注意一点，我们对于小数部分是四舍五入的，最后要保证在yolov5s.yaml里面的都是整数，整个yolov5s.yaml的anchor部分全部要换成我们的Best Anchors，同时还要把我们的nc也就是识别的类别数目给修改一下。进入文件夹后，创建一个名为demo.py的文件，将以下代码复制即可，实现了实时视频，同样要注意的一点是，我们需要把RK_anchor的锚点在这里也修改一下，同样把我们的后处理部分修改一下，也就是上面提到的process函数修改一下。
目标检测6：采用yolov8, RK3568推理的性能
06-12 615
根据官方的数据，yolov8s模型的性能在15.4 FPS。所以基本上也吻合了这个数据。通过性能优化，发现推理，稳定的达到了FPS 13左右，NPU利用率在90%上下浮动。解析一段视频文件，1280*720, fps 24。读取视频文件，然后进行推理。本次采用模型为yolov8s.rknn，作了一次验证。
GPU推理和端侧NPU推理的一处不同
tugouxp的专栏
06-03 1923
端侧AI推理主要使用NPU完成，为了在性能，功耗和面积和通用性之间取得平衡，主流NPU采用了加速器架构，将算子固化在硬件中，并辅以可编程单元执行一些自定义算子/长尾算子兼顾灵活性。
yolov5-6.0项目部署+自用Pytorch模型转换rknn模型并在RK3568 linux(Debian)平台上使用qt部署使用NPU推理加速摄像头目标识别详细新手教程
weixin_44277869的博客
05-10 1万+
pytorch模型转换onnx再转换为rknn模型用于rk3568平台上实现NPU加速
RK3568-npu模型转换
Paper_Love的博客
08-16 883
NPU模型转换和模型推理
rk3588使用npu进行模型转换和推理，加速AI应用落地
热门推荐
振华OPPO的博客世界
08-08 1万+
本来想使用tensorrt进行加速推理，但是前提需要cuda，rk的板子上都是Arm的手机gpu，没有Nvidia的cuda，所以这条路行不通。使用该NPU需要下载RKNN SDK，RKNN SDK 为带有 NPU 的RK3588S/RK3588 芯片平台提供编程接口，能够帮助用户部署使用 RKNN-Toolkit2 导出的 RKNN 模型，加速 AI应用 的落地。简单修改下test.py文件，显示并保存结果图片，不得不说，npu推理的检测框置信度高的离谱，不愧是嵌入式神经网络，比原先yolov5高很多。.
（十二）rk3568 NPU 中部署自己训练的模型，（1）使用yolov5训练自己的数据集-模型训练部分
不见围墙
04-22 957
训练完成后，在runs/train/exp/weights/目录下生成两个模型文件一个last.pt 一个best.pt。yolov5_train.txt和yolov5_val.txt分别给出了训练图片文件和验证图片文件的列表，在yolov5下生成了两个文件yolov5_train.txt和yolov5_val.txt。YOLOLabels下的文件是images文件夹下每一个图像的yolo格式的标注文件，images文件夹下有train和val文件夹，分别放置训练集和验证集图片；之后点击“Commits”
RK3568 NPU RKNN_API_for_RK356X_v1.0_20210430
09-07
2. **模型转换工具**：提供了模型转换工具，可以将主流的深度学习框架如TensorFlow、PyTorch等的模型转换为适用于RK3568 NPU的格式。 3. **高性能优化**：针对NPU硬件进行优化，保证模型在硬件上的高效执行，实现低...
香橙派5使用NPU加速yolov5的实时视频推理（二）
weixin_51651698的博客
03-05 8795
香橙派5使用RKNN实现NPU加速yolov5实时视频推理，速度大概在100FPS左右
rknn如何用多个npu进行模型推理
重剑无锋博客
06-15 713
【代码】rknn如何用多个npu进行模型推理。
RK3568平台开发系列讲解（NPU篇）让 NPU 跑起来
内核笔记
11-10 4849
📢本篇将介绍如何让NPU跑起来。
什么是NPU
Zoeeeyy的博客
03-16 1万+
NPU全称： Neural Processor Unit, 是一个AI加速器，为AI加速的定制电路，并且包含一些必要的控制单元和算法，来执行ML算法。尤其适用于操纵predictive model,例如artificial neural networks(ANNs) of random forests(RFs). .NPU有时有类似的名称，如张量处理单元（TPU）、神经网络处理器（NNP）和智能处理单元（IPU）以及视觉处理单元（VPU）和图形处理单元（GPU）。 Motivation 执行卷积神经网络等深
华北工控EMB3581 瑞芯微Rockchip RK3568，python部署rknn_toolkit_lite2
weixin_42991437的博客
08-19 2009
华北工控EMB3581 瑞芯微Rockchip RK3568，python部署rknn_toolkit_lite2 onnx.onnx_cpp2py_export.checker.ValidationError: Your model ir_version is higher than the checker's.
yolov4-tiny训练自己的模型并部署到RK的NPU上推理
zengwb的博客
10-17 7489
文章目录前言一、安装darknet训练框架二、模型转换二、RKNN推理 前言 使用yolov4-tiny训练西瓜检测模型，部署到RKNPU上推理Python单线程速度35FPS以上 一、安装darknet训练框架 本人使用得是这里的darknet Readme里有详细写明数据准备，cfg修改，训练步骤等，本文不在赘述。 二、模型转换 训练完成后得到yolov4-yiny.cfg和yolov4-tiny.weight, 转换为yolov4-tiny.rknn from PIL import Image i
iTOP-3568开发板NPU使用安装RKNN Toolkit Lite2
mucheni的博客
07-05 785
iTOP-3568开发板NPU使用安装RKNN Toolkit Lite2
rk3588 c++ npu
07-27
RK3588是瑞芯微公司推出的一款高性能处理器芯片。它支持NPU（神经网络处理单元）加速推理，可以用于人工智能应用。在RK3588上使用NPU进行加速推理可以提高算法的处理速度和效率。根据引用\[1\]，RKNPU2是Firefly对第二代板子使用的NPU版本。根据引用\[2\]，使用开发板自带的NPU进行加速推理是最佳方案，因为它本身就是人工智能开发板，可以充分发挥其全部能力。如果你想在RK3588上使用C++编程语言进行NPU开发，你可以参考瑞芯微提供的开发文档和示例代码。根据引用\[3\]，你可以将转换后的RK3588平台模型复制到rknpu2/examples/rknn_yolov5_demo/model/RK3588/目录下，然后使用ADB工具将模型传输到RK3588上。当然，示例代码中也自带了.rknn模型，所以你也可以直接使用示例代码中的模型进行开发。希望这些信息对你有帮助！ #### 引用[.reference_title] - *1* *2* *3* [rk3588对npu的再探索，yolov5使用rknn模型推理教程](https://blog.csdn.net/qq_42257666/article/details/125578222)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insert_down28v1,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Paper_Love

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值