RK3588平台开发系列讲解（NPU篇）NPU调试方法

最新推荐文章于 2024-08-27 20:49:56 发布
最新推荐文章于 2024-08-27 20:49:56 发布
阅读量4.2k 收藏 55
点赞数 48
分类专栏： RK3588 Android12 开发入门到精通专栏 文章标签： RK3588
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_33487044/article/details/129676747
版权
本文介绍了RK3588平台NPU的调试方法，包括日志等级的设置，如何查看不同日志信息，以及NPU支持的查询设置项，如驱动版本、核心利用率和电源状态的查询与控制。
摘要由CSDN通过智能技术生成

请添加图片描述

平台 内核版本 安卓版本
RK3588 Linux 5.10 Android 12

文章目录

沉淀、分享、成长，让自己和他人都能有所收获！😄

📢本篇我们一起来看一下NPU的调试方法。

一、日志等级

NPU 的运行库会根据开发板上的系统环境变量输出一些日志信息或者生成文件，用于开发者调试和查看。日志等级设置方法和参数说明如下：

export RKNN_LOG_LEVEL=<level_number>
了解本专栏 订阅专栏 解锁全文
内核笔记
关注
专栏目录
订阅专栏
深入解析：RK3588平台开发之NPU调试探秘
一直在水些技术小文
12-25 928
通过本文的深度讲解，我们详细介绍了在RK3588平台上进行NPU调试的一些方法和技巧。NPU作为人工智能应用的核心组成部分，在实际应用中有着广泛的应用。对于开发者而言，掌握NPU调试方法是提高系统性能的重要一环。在未来的技术分享中，我们将继续深入挖掘RK3588平台的开发技巧，为大家呈现更多关于嵌入式系统、人工智能等领域的精彩内容。敬请期待新的技术探索！注：本文中的代码仅为示例，实际应用中需根据具体情况进行适当修改和优化。
RK3588平台开发系列讲解（AI 篇）RKNPU 推理软件框架
内核笔记
08-14 1711
📢本篇章主要讲解什么是RKNPU。
rk3588调用NPU、查看npu的使用情况
小蛙的博客
08-27 501
1、rk3588启用NPU，启用三个内核->RKNNLite.NPU_CORE_0_1_2。​ 2、查看NPU使用情况，watch sudo cat /sys/kernel/debug/rknpu/load。
【使用RK3588 通过NPU部署YOLOv5目标检测文章参考速通】
weixin_47869094的博客
08-14 1094
国内多线程异步提高RK3588的NPU占用率，进而提高yolov5s帧率文章和代码使用yolov5s进行讲解, 其他模型如resnet之类的同理,稍作修改就可以使用。由于已经有很多人,如， 孙尧等做了如何通过修改模型提高视频推理帧率的教程, 这里我就主要讲另外一种性能的方法——多线程异步。
【rk3588】npu环境搭建遇到的问题
qq_42740449的博客
12-13 644
根据错误日志，其中提到了找不到 libtinfo.so.5 共享库的问题。这是一个缺少的依赖库错误。可以尝试通过安装 libncurses5 库来解决此问题。【Linux】Ubuntu下安装并配置Android-NDK（附详细过程）运行rk3588例程，编译生成驱动，push到android开发板。
rk3588(香橙派5pro)使用npu推理
qq_34524246的博客
04-11 1914
香橙派5pro使用npu(rknn-toolkit)完成模型推理
RK3588实战：调用npu加速，yolov5识别图像、ffmpeg发送到rtmp服务器
热门推荐
zichuanning520的博客
03-02 2万+
rk3588做的小项目，用到ffmpeg、openCV、npu等相关部分。
yolov5训练并生成rknn模型部署在RK3588开发板上，实现NPU加速推理
m0_62919535的博客
03-24 8589
RK3588是瑞芯微（Rockchip）公司推出的一款高性能、低功耗的集成电路芯片。它采用了先进的28纳米工艺技术，并配备了八核心的ARM Cortex-A76和Cortex-A55处理器，以及ARM Mali-G76 GPU。该芯片支持多种接口和功能，适用于广泛的应用领域。本篇为yolov5部署在RK3588的教程。接着将训练好的best.pt放在工程文件夹下，使用yolov5工程中的export.py将其转换为onnx模型。
AI嵌入式RK3588人工智能开发 --- 【2】RKNPU软件推理框架
最新发布
xinxin的博客
08-27 996
RKNN Toolkit2 仓库链接为 https://github.com/rockchip-linux/rknn-toolkit2。文件夹内容如下所示：RKNN-Toolkit2 资料包中有四个目录，分别为 docs、examples、packages 和 rknn_toolkit_lite2。docs 目录包含了 RKNN-Toolkit2 的使用文档，包括更新记录、两个 Python 环境所需的依赖 项、RKNN 算子支持列表、快速入门指南以及使用指导手册。
香橙派5使用RK3588S内置NPU加速yolov5推理，实时识别数字达到50fps
weixin_51651698的博客
04-17 1万+
香橙派5采用了RK3588S，内置的NPU达到了6Tops的算力，博主这里记录一下自己的踩坑过程，好不容易做出来的不能以后忘记了（手动狗头）。这里博主还在B站上发布了效果视频，大家感兴趣的话可以看一下。其中解决了先验框标注位置不对，或者出现非常多的框的问题
RK3588平台开发系列讲解（项目篇）YOLOv5部署测试
内核笔记
05-25 1727
📢 Yolov5是一种目标检测算法，属于单阶段目标检测方法，是在COCO数据集上预训练的物体检测架构和模型系列，它代表了Ultralytics对未来视觉AI方法的开源研究， 其中包含了经过数千小时的研究和开发而形成的经验教训和最佳实践。 最新的YOLOv5 v7.0有YOLOv5n、YOLOv5s、YOLOv5m、YOLOv5l、YOLOv5x等，除了目标检测，还有分割，分类等应用场景。
RK3588平台开发系列讲解（调试篇）如何进行性能分析
内核笔记
07-31 1120
📢 本篇将介绍性能分析（Performance Profiling） 最简单的性能分析工具是 top，可以快速查看进程的 CPU、内存使用情况； pstack 和 strace 能够显示进程在用户空间和内核空间的函数调用情况； perf 以一定的频率采样分析进程，统计各个函数的 CPU 占用百分比； gperftools 是“侵入”式的性能分析工具，能够生成文本或者图形化的分析报告，最直观的方式是火焰图。
RK3568平台开发系列讲解（调试篇）系统运行相关频率设置
内核笔记
09-17 1477
📢 CPU 默认是 interactive 状态，它会根据 CPU 使用率和目标负载来动态地调整 CPU 频率。为获得更高运行速度或者性能评估，我们需要手动固定频率。
RK3588平台开发系列讲解（驱动基础篇）驱动模块传参
内核笔记
05-31 1210
📢在编写应用程序的时候，我们可以给 main 函数传递参数，比如 void main(int argc,char *argv[])，这个功能大家用起来已经很熟练了。其实在使用 insmod 命令加载模块的时候，也是可以给模块传递参数的。
多线程异步提高RK3588的NPU占用率，进而提高yolov5s帧率
m0_62740527的博客
04-30 1万+
作者手头上有一块香橙派5，其搭载有一颗三核心6TOPS算力的NPU, 由于发布时间不长，社区的资料还是比较匮乏, 所以在这里写一下关于如何提高NPU使用率的教程文章和代码使用yolov5s进行讲解, 其他模型如resnet之类的同理,稍作修改就可以使用。由于已经有很多人,如等做了如何通过修改模型提高视频推理帧率的教程, 这里我就主要讲另外一种性能的方法——多线程异步。
rk3588使用npu加速运行whisper语音识别模型
weixin_42206548的博客
08-22 676
我们在useful-transformers项目基础上做了很多优化工作，使得Whisper模型能够在Rockchip RK3588平台上实现更快、更准确的实时语音识别。
rk3588使用npu进行模型转换和推理，加速AI应用落地
振华OPPO的博客世界
08-08 1万+
本来想使用tensorrt进行加速推理，但是前提需要cuda，rk的板子上都是Arm的手机gpu，没有Nvidia的cuda，所以这条路行不通。使用该NPU需要下载RKNN SDK，RKNN SDK 为带有 NPU 的RK3588S/RK3588 芯片平台提供编程接口，能够帮助用户部署使用 RKNN-Toolkit2 导出的 RKNN 模型，加速 AI应用 的落地。简单修改下test.py文件，显示并保存结果图片，不得不说，npu推理的检测框置信度高的离谱，不愧是嵌入式神经网络，比原先yolov5高很多。.
RK3588 npu python运行 YOLOv8 和 YOLOv8-seg 的教程
weixin_42206548的博客
05-06 3860
我们在 rknn-multi-threaded 的基础上，对 RKNN_model_zoo 中的 YOLOv8 example 进行了整合，并使用 github Copilot 重写了后处理函数。这一改进不仅取消了对 PyTorch 的依赖，还将后处理耗时从几百毫秒降低到了几十毫秒。在 3 线程模式下，推理 YOLOv8s 模型可以达到约 45fps，而推理 YOLOv8s-seg 模型则可以达到约 25fps。
获取RK3588温度以及GPU,NPU，CPU频率shell脚本
目前从事linux驱动开发，多交流多学习吧
12-08 1415
获取RK3588温度以及GPU,NPU，CPU频率shell脚本。
rk3588 c++ npu
07-27
RK3588是瑞芯微公司推出的一款高性能处理器芯片。它支持NPU（神经网络处理单元）加速推理，可以用于人工智能应用。在RK3588上使用NPU进行加速推理可以提高算法的处理速度和效率。根据引用\[1\]，RKNPU2是Firefly对第二代板子使用的NPU版本。根据引用\[2\]，使用开发板自带的NPU进行加速推理是最佳方案，因为它本身就是人工智能开发板，可以充分发挥其全部能力。如果你想在RK3588上使用C++编程语言进行NPU开发，你可以参考瑞芯微提供的开发文档和示例代码。根据引用\[3\]，你可以将转换后的RK3588平台模型复制到rknpu2/examples/rknn_yolov5_demo/model/RK3588/目录下，然后使用ADB工具将模型传输到RK3588上。当然，示例代码中也自带了.rknn模型，所以你也可以直接使用示例代码中的模型进行开发。希望这些信息对你有帮助！ #### 引用[.reference_title] - *1* *2* *3* [rk3588对npu的再探索，yolov5使用rknn模型推理教程](https://blog.csdn.net/qq_42257666/article/details/125578222)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insert_down28v1,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

内核笔记

你的鼓励是我的动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值