RKNN Toolkit2 工具的使用

RKNN Toolkit2 是由瑞芯微电子 (Rockchip) 开发的一套用于深度学习模型优化和推理的工具。它主要面向在瑞芯微SoC上进行AI应用开发,但也可以用于PC平台进行模型的转换、量化、推理等操作。它支持将多种深度学习框架的模型(如Caffe, TensorFlow, PyTorch等)转换为RKNN格式。

创建虚拟环境

使用miniconda或者Anaconda创建一个虚拟环境,其中miniconda 是 Anaconda 的轻量版。为了减少内存,我们采用miniconda进行开发。

下载链接:

​wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh​

安装miniconda,执行以下命令

./Miniconda3-latest-Linux-x86_64.sh​

 然后回车,一直往下滑动看完 license,最后输入 yes 后,继续按下回车, 然后进入安装,安装完成后输入 yes 初始化 anaconda3。

创建虚拟环境,执行以下命令

conda create -n Toolkit2 python=3.8.12    //创建一个名为Toolkit2 的虚拟环境,Python的版本为3.8.12
conda activate Toolkit2        //进入虚拟环境

 

conda env list   //查看虚拟环境列表
conda deactivate   //退出虚拟环境

Toolkit2的安装

安装依赖

sudo apt update

sudo apt-get install python3-dev python3-pip python3.8-venv gcc

sudo apt-get install libxslt1-dev zlib1g-dev libglib2.0 libsm6 \libgl1-mesa-glx libprotobuf-dev gcc

 安装 RKNN-Toolkit2

mkdir project-Toolkit2 && cd project-Toolkit2

 拉取RKNN-Toolkit2

git clone https://gitee.com/LubanCat/lubancat_ai_manual_code.git
cd lubancat_ai_manual_code/dev_env/rknn_toolkit2

配置pip源

pip3 config set global.index-url https://mirror.baidu.com/pypi/simple

进入到 lubancat_ai_manual_code/dev_env/rknn_toolkit2/doc目录,安装依赖库

pip3 install numpy
pip3 install -r requirements_cp38-1.5.0.txt

建议在安装需求之前,sudo vim requirements_cp38-1.5.0.txt,numpy==1.19.5注释掉,否则可能导致依赖安装shibai

 安装 rknn_toolkit2

pip3 install rknn_toolkit2-1.5.0+1fa95b5c-cp38-cp38-linux_x86_64.whl

检查是否安装成功

输入 quit() 或者使用快捷键 Ctrl+D 退出

  • 3
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 1
    评论
RKNN-Toolkit2是一个用于在Rockchip AI芯片上进行深度学习推理的工具包。它提供了一系列工具和API,用于将训练好的模型转换为RKNN格式,并在Rockchip AI芯片上进行推理。 使用RKNN-Toolkit2,您可以完成以下任务: 1. 模型转换:将训练好的模型转换为RKNN格式,以便在Rockchip AI芯片上进行推理。 2. 模型优化:对模型进行优化,以提高推理性能和准确性。 3. 模型部署:将转换和优化后的模型部署到Rockchip AI芯片上进行推理。 4. 推理测试:在rknn-toolkit2提供的模拟器中进行推理测试,以验证模型的性能和准确性。 以下是使用RKNN-Toolkit2的一些示例步骤: 1. 安装RKNN-Toolkit2:请参考引用中提供的安装教程,按照步骤安装RKNN-Toolkit2。 2. 准备模型:准备一个训练好的模型,可以是常见的深度学习框架(如TensorFlow、PyTorch)训练的模型。 3. 模型转换:使用RKNN-Toolkit2将模型转换为RKNN格式。根据您的模型类型和需求,可以选择不同的转换方法和参数进行转换。 4. 模型优化:根据您的需求,使用RKNN-Toolkit2对转换后的模型进行优化,以提高推理性能和准确性。 5. 模型部署:将优化后的模型部署到Rockchip AI芯片上进行推理。根据您的硬件环境和需求,可以选择不同的部署方式和参数进行部署。 6. 推理测试:使用rknn-toolkit2提供的模拟器,在模拟环境中进行推理测试,以验证模型的性能和准确性。 请注意,具体的步骤和参数可能因您的具体需求和环境而有所不同。建议您参考RKNN-Toolkit2的官方文档和示例代码,以获取更详细的信息和指导。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

曲途光未央

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值