RKNN连板调试依赖

RKNNToolkit2的连板调试涉及更新rknn_server和librknnrt.so,以及手动启动rknn_server。rknn_server是板端服务,处理PC通过USB传输的协议。在Android和Linux平台上,启动步骤有所不同,包括adb推送文件、修改权限和启动服务。此外,文章还提供了设置日志等级和重启rknn_server的步骤。
摘要由CSDN通过智能技术生成

连板调试简介

RKNN Toolkit2的连板功能一般需要更新板端的 rknn_server 和 librknnrt.so,并且手动启动 rknn_server 才能正常工作。
rknn_server: 是一个运行在板子上的后台代理服务,用于接收PC通过USB传输过来的协议,然后执行板端runtime对应的接口,并返回结果给PC。
librknnrt.so: 是一个板端的runtime库。

有些固件默认已经集成了rknn_server,如果已经集成,可以忽略下面的启动步骤。

rknn_server存放目录

RK356X和RK3588上的rknn_server分别对应存放在runtime/RK356X/和runtime/RK3588/目录下,以RK356X为例,rknn_server的存放目录层次如下:

Android平台

Android
└── rknn_server
    ├── arm64
    │   └── vendor
    │       └── bin
    │           └── rknn_server
    └── arm
        └── vendor
            └── bin
                └── rknn_server

Linux平台

Linux
└── rknn_server
    ├── aarch64
    │   └── usr
    │       └── bin
    │           ├── restart_rknn.sh
    │           ├── rknn_server
    │           └── start_rknn.sh
    └── armhf
        └── usr
            └── bin
                ├── restart_rknn.sh
                ├── rknn_server
                └── start_rknn.sh

启动步骤

以RK356X为例,进入到runtime/RK356X/目录,根据不同平台,选择以下不同的启动步骤:

Android平台

BOARD_ARCH在64位安卓系统中,对应arm64目录,在32位系统,对应arm目录

  1. adb root && adb remount
  2. adb push Android/rknn_server/${BOARD_ARCH}/vendor/bin/rknn_server到板子/vendor/bin/目录
  3. adb push Android/librknn_api/${BOARD_ARCH}/librknnrt.so到/vendor/lib64(64位系统特有)和/vendor/lib目录
  4. 进入板子的串口终端,执行:
su
chmod +x /vendor/bin/rknn_server
sync
reboot
  1. 重新进入板子的串口终端,执行 pgrep rknn_server, 查看是否有 rknn_server的进程id(较新的固件开机会自动启动rknn_server),如果不存在,则手动执行:
su
setenforce 0
/vendor/bin/rknn_server &

Linux平台

BOARD_ARCH在64位Linux系统中,对应aarch64目录,在32位系统,对应armhf目录

  1. adb push Linux/rknn_server/${BOARD_ARCH}/usr/bin/下的所有文件到/usr/bin目录
  2. adb push Linux/librknn_api/${BOARD_ARCH}/librknnrt.so到/usr/lib目录
  3. 进入板子的串口终端,执行:
chmod +x /usr/bin/rknn_server
chmod +x /usr/bin/start_rknn.sh
chmod +x /usr/bin/restart_rknn.sh
restart_rknn.sh

在这里插入图片描述

串口查看rknn_server详细日志

Android平台
  1. 进入串口终端,设置日志等级
su
setenforce 0
export RKNN_SERVER_LOGLEVEL=5
  1. 杀死rknn_server进程
kill -9 `pgrep rknn_server`
  1. 重启rknn_server进程(若固件没有自启动rknn_server)
/vendor/bin/rknn_server &
logcat
Linux平台
  1. 进入串口终端,设置日志等级
export RKNN_SERVER_LOGLEVEL=5
  1. 重启rknn_server进程(若固件没有自启动rknn_server)
restart_rknn.sh
您好!对于RKNN分类模型的板端推理,您可以按照以下步骤进行操作: 1. 准备模型:首先,您需要将模型转换为适用于RKNN推理的格式。RKNN Toolkit是一个用于RKNN模型转换的工具,您可以使用它来将训练好的模型转换为RKNN格式。确保使用与您的硬件平台兼容的版本。 2. 安装依赖:在进行推理之前,您需要在板端安装相应的依赖库和驱动程序。这些依赖库和驱动程序可能因不同的硬件平台而有所不同。请参考相关文档或官方网站获取详细的安装指南。 3. 加载和初始化模型:在推理之前,您需要在板端加载和初始化模型。使用RKNN Toolkit生成的RKNN模型文件,您可以使用相应的API将模型加载到板端,并进行初始化。 4. 数据预处理:在进行推理之前,您可能需要对输入数据进行预处理。这可能包括缩放、裁剪、归一化等操作,以确保输入数据与模型的要求相匹配。 5. 推理过程:一旦模型加载和初始化完成,并且输入数据预处理完毕,您可以使用板端提供的API进行推理。将预处理后的数据传递给模型,并获取模型的输出结果。 6. 后处理:根据您的需求,您可能需要对模型的输出结果进行后处理。这可能包括解码、解析、可视化等操作,以获得最终的分类结果或其他相关信息。 请注意,具体的实现细节和API调用方式可能因不同的硬件平台和软件版本而有所不同。建议您参考相关文档、示例代码或官方支持渠道,以获取更多详细信息和指导。 希望以上信息能对您有所帮助!如有更多问题,请随时提问。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值