【新手向】Rock5B配置AI环境并运行RKNN2 Demo测试NPU

一、环境与说明

	版本
Rock5B	V1.42
系统	官方Debian11（2022-10-01版本）

• 论坛是RKNN2 1.3版本，rk官方已经更新到1.4版本了，测试成功的就是最新1.4版本。这次测试npu花了不少时间，试了Ubuntu和两个版本的Debian。
• 一直对RKNN很向往，这也是我购买Rock5B的原因，原来只用过英特尔的神经计算棒NCS2。

二、参考radxa论坛帖子（报错）

参考：https://forum.radxa.com/t/run-rknn2-demo-on-rock-5b/10914

步骤1.参看系统版本

我使用的是使用2022-10-01版本系统

root@rock-5b:/home/rock# uname -r
5.10.66-24-rockchip-gcb09ad15af75

步骤2.下载安装

https://github.com/radxa/rknpu2/releases/tag/20220512

下载完成后上传到Rock5B开发板上。

这里的lib库不能正常加载，也许是因为系统内核版本和贴主不同的原因。

我也不想去下载一个5月份的旧系统，我们这里就去RK自己的仓库去看看。

三、参考rk官方教程（成功）

上面论坛版本是RKNN2 1.3版本，目前rk官方已经更新到1.4版本了。

• https://github.com/rockchip-linux/rknn-toolkit2

• https://github.com/rockchip-linux/rknpu2

# 已经下载git，忽略
sudo apt-get install git
# 拉取一下
git clone https://github.com/rockchip-linux/rknpu2.git

# 配置文件
cd rknpu2
sudo cp ./runtime/RK3588/Linux/librknn_api/aarch64/* /usr/lib
sudo cp ./runtime/RK3588/Linux/rknn_server/aarch64/usr/bin/* /usr/bin/

安装依赖文件

sudo apt-get update -y
sudo apt-get install -y gcc
sudo apt-get install -y python3-dev
sudo apt-get install -y python3-pip 
sudo apt-get install -y python3-numpy
sudo apt-get install -y python3-opencv

# 拉取rknn-toolkit2
git clone https://github.com/rockchip-linux/rknn-toolkit2.git

速度感人

# 安装rknn_toolkit_lite2
pip3 install ./rknn-toolkit2/rknn_toolkit_lite2/packages/rknn_toolkit_lite2-1.4.0-cp39-cp39-linux_aarch64.whl -i https://pypi.tuna.tsinghua.edu.cn/simple/

运行测试文件

cd rknn-toolkit2/rknn_toolkit_lite2/examples/inference_with_lite
python3 test.py

这里我们使用NPU的环境就配置好了。

四、总结

• 所谓配置好了NPU的使用环境，就是可以在python中调用rknn的api了,体现在我们的配置过程分为两步，第一步是配置好调用的lib和bin文件，第二步就是下载依赖文件来满足运行rknn_toolkit_lite2-1.4.0这个python库。

• 上面拉取的仓库文件有很多是不需要的，如果网络不好，可以在电脑上下载后把需要安装的部分上传到Rock5B开发板即可。

• RK毕竟是一个很大的企业，官方提供的教程一定是优秀的，这启发我在查找教程时，应该首先向官方寻求支持！

• RKNN我还需要继续学习，因特尔的NCS2现在要500多块钱，用RK的NPU加速，岂不是省了，四舍五入板子板子没花钱（😎）