RK3588平台开发系列讲解（NPU篇）RKNN SDK API流程

最新推荐文章于 2024-11-01 16:00:43 发布
最新推荐文章于 2024-11-01 16:00:43 发布
阅读量2.5k 收藏 52
点赞数 51
分类专栏： RK3588 Android12 开发入门到精通专栏 文章标签： RK3588
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_33487044/article/details/129663586
版权
本文详细介绍了在RK3588平台上，如何利用RKNN SDK的通用API和零拷贝API进行模型部署与推理。通用API涉及模型输入设置和推理输出获取，而零拷贝API则提供了输入/输出内存的不同分配方式，包括运行时分配、外部分配和全面外部分配，以提高效率。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

请添加图片描述

平台 内核版本 安卓版本
RK3588 Linux 5.10 Android 12

文章目录

沉淀、分享、成长，让自己和他人都能有所收获！😄

📢RKNN SDK 为带有 RKNPU 的芯片平台提供编程接口，能够帮助用户部署使用 RKNN-Toolkit2导出的 RKNN 模型，加速 AI 应用的落地。

目前在 RK356X/RK3588 上有两组 API 可以使用：

  • 通用 API 接口
  • 零拷贝流程的 API 接口

一、通用 API 接口

对于通用

了解本专栏 订阅专栏 解锁全文
RK3588平台开发系列：Android上NPU调试方法
2301_79326891的博客
08-21 1670
本文将详细介绍在Android上调试RK3588平台上的NPU的方法，并提供相应的源代码示例。首先，您需要确保您的RK3588开发板已正确连接到您的开发计算机，并且已安装了正确版本的Android开发工具包（Android SDK）和ADB驱动程序。在NPU调试工具中，您可以加载您想要测试的模型。在RK3588平台上，我们可以使用Rockchip提供的NPU调试工具来测试和验证NPU的功能。根据您的模型的要求，您可以创建一个包含输入数据的数据结构，并将其传递给NPU调试工具。步骤4：运行NPU调试工具。
RK3588更新NPU驱动的方法
最新发布
荻夜的博客
03-20 226
想要在 RK3588 上跑一下 deepseek 的大模型，发现目前的内核提供的 NPU 驱动比较低，无法支持新的大模型，所以需要更新一下我们的 NPU 驱动本次更新的NPU驱动仅适用于RK3588和RK3676系列。
RKNN NPU开发文档
tugouxp的专栏
01-16 1088
NPU开发简介 — Firefly Wiki
[工程部署]rknn-toolkit以及rknpu_sdk环境搭建--以rk3588为例
嵌入式人工智能相关
04-14 8521
rknn-toolkit以及rknpu_sdk环境搭建--以rk3588为例，后续会继续更新yolov7部署在3588的相关教程
RK3568平台开发系列：RKNPU SDK软件架构解析与Android集成
TechWhizKid的博客
08-20 466
为了提供高效的AI计算能力，Rockchip推出了RK3568平台，该平台搭载了强大的神经网络处理单元（RKNPU），并提供了RKNPU SDK软件开发工具包，以支持RK3568平台上的AI应用开发。导入SDK到Android项目：将RKNPU SDK的库文件和头文件导入到Android项目中，并配置项目的构建脚本，以确保能够正确链接和使用RKNPU SDK。模型转换和编译：使用RKNPU SDK提供的模型转换工具和模型编译器，将所需的深度学习模型转换为RKNPU可执行的格式，并进行编译优化。
正点原子rk3588编译sdk
mantouyouyou的博客
06-29 2894
app：存放上层应用 app，包括 Qt 应用程序，以及其它的 C/C++应用程序。buildroot：基于 buildroot 开发的根文件系统。debian：基于 Debian 开发的根文件系统。device/rockchip：存放各芯片板级配置文件和 Parameter 分区表文件，以及一些编译与打包固件的脚本和预备文件。docs：存放芯片模块开发指导文档、平台支持列表、芯片平台相关文档、Linux 开发指南等。
深度解析：RK3588平台开发中的NPU利器——RKNN SDK API流程
一直在水些技术小文
12-25 1407
NPU，即神经网络处理单元，是近年来嵌入式设备中崭露头角的技术，其强大的深度学习处理能力为人工智能应用的实现提供了有力的支持。RK3588平台搭载的NPU架构不仅在图像识别、语音处理等领域有着显著的优势，而且通过RKNN SDK的API，开发者可以更便捷地利用这一强大的工具。通过本文的详细讲解，相信读者已经对RK3588平台上NPU的开发有了更深入的了解。RKNN SDK作为一个强大的工具，为开发者提供了便捷的API流程，助力于更高效、更稳定的NPU应用开发。
RK3588平台开发系列讲解（AI 篇）什么是RKNPU
内核笔记
06-21 2600
📢本篇章主要讲解什么是RKNPU。
RK3588--SDK系统开发学习
weixin_74253011的博客
11-01 4061
一个 txt 文本文件，是 RK3588 平台的分区表（记录分区名以及每个分区它的起始地址、结束地址）；parameter.txt 分区表文件不会烧录到 Flash 存储器件中，烧录工具会根据里面定义的分区来创建分区表。RK 提供了相应的文档介绍 parameter.txt 文件中的各种标识，该文档所在路径为: /docs/cn/Common/TOOL/Rockchip_Introduction_Partition_CN.pdf。
RK3588平台开发系列讲解（RKNN篇）RKNN Android平台开发说明
内核笔记
12-17 4115
📢RKNN SDK 为带有 RKNPU 的芯片平台提供编程接口，能够帮助用户部署使用 RKNN-Toolkit2导出的 RKNN 模型，加速 AI 应用的落地。
RK3568平台开发系列讲解（NPU篇）RKNPU SDK软件架构
内核笔记
03-13 4217
从上到下来看，最上层是 AI Apps层，也就是 RKNN 应用层，RKNN 应用层包含了客户开发的 AI 应用，包括瑞芯微提供的 demo 应用。往下一层，是瑞芯微对外开放的 RKNN API，这个 API 里面其实是 RKNN 运行时。RKNN API 往上提供了对应用的调用接口。再往下一层是 RKNPU 内核驱动层，主要负责功能是对下操作硬件 NPU，对上提供比较轻量级的接口。最下一层是 RKNPU 的硬件。
RK3588平台开发系列讲解（项目篇）RKNN-Toolkit2 的使用
内核笔记
05-28 3515
Toolkit-lite2工具在PC平台上使用，提供python接口简化模型的部署和运行，用户 通过该工具可以便捷地完成以下功能：模型转换、量化功能、模型推理、性能和内存评估、量化精度分析、模型加密功能。
RK3568平台开发系列讲解（NPU篇）让 NPU 跑起来
内核笔记
11-10 5372
📢本篇将介绍如何让NPU跑起来。
npu开发简介
Amao_come_on 的专栏
04-04 2923
NPU开发简介 NPU特性支持 8bit/16bit 运算，运算性能高达 3.0TOPS。相较于 GPU 作为 AI 运算单元的大型芯片方案，功耗不到 GPU 所需要的 1%。可直接加载 Caffe / Mxnet / TensorFlow 模型。提供 AI 开发工具：支持模型快速转换、支持开发板端侧转换 API、支持 TensorFlow / TF Lite / Caffe / ONNX / Darknet 等模型 。提供 AI 应用开发接口：提供 RKNN 跨平台 API、Linux 支持 Tensor
全志V853 NPU开发（三）模型转换、量化、导出
weixin_42904656的博客
11-09 1362
全志V853 NPU开发，部署模型的转换量化导出封装
瑞芯微 RKNN SDK 快速上手指南--Banana Pi开源社区
Banana PI 香蕉派的专栏
10-28 2925
rockchip的npu sdk分为两个部分，PC端使用的是rknn-toolkit2，可以在PC端进行模型转换，推理以及性能评估。具体来说是把主流的模型如Caffe、TensorFlow、TensorFlow Lite、ONNX、DarkNet、PyTorch 等转换为RKNN模型，并可以在PC端使用这个RKNN模型进行推理仿真，计算时间和内存开销。板端还有一部分，就是rknn runtime环境，包含一组C API库以及与NPU进行通信的驱动模块，可执行程序等。
瑞芯微 RK3588 环境搭建 SDK编译 编译指定模块
baoecit的博客
05-30 3514
厂家推荐是虚拟机下 我这真好有真实的UBUNTU环境 就不用虚拟机了。需要将00到04 的压缩包 重新打包成一个文件 文档里面也已经给出命令了。这里主要用到两个目录 一个是源码也即SDK 交叉编译链 编译工具。如果在windows下面看 如下 是看不到符号链接文件的。需要注意的是 下下来的时候 只有下面绿色的部分。然后切到源码目录 我这里改名为SDK了。厂家给的资料下载下来之后 我的目录如下。具体目录不一样 按照文档说明操作即可。先安装交叉编译链 按照文档说明。搜了下需要执行如下命令。
人工智能开发NPU使用
xinxin的博客
08-26 1561
RKNN-Toolkit2 是为用户提供在 PC、Rockchip NPU 平台上进行模型转换、推理和性能评估的开发套件，用户通过该工具提供的 Python 接口可以便捷地完成各种操作。
rk3588开发笔记1 - 获取sdk
weixin_42104043的博客
05-31 818
rk3588 开发笔记=Linux
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

内核笔记

你的鼓励是我的动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值