sazass的博客

硬件：瑞芯微RK3588系统：ubuntu20.04语言：python3.8第三方依赖库:rknn_toolkit_lite2，rknn_toolkit2架构：aarch64依赖库下载链接：根据python版本合和架构(x86/arm64)选择对应版本https://github.com/airockchip/rknn-toolkit2/tree/master/rknn-toolkit2/packages/arm64https://github.com/airockchip/rknn-too

其中：dataset.txt是量化数据集的索引文件，将量化数据集上传至convert_rknn_demo/yolov5目录下，将所有量化数据集的文件相对路径写在dataset.txt即可。其中rknn.load_onnx的outputs输入onnx模型3个conv下方的3个reshape层的输出。模型推理会完全执行：ONNX模型的所有计算都会被执行，因为这些输出节点是模型的最终输出节点。输出的是YOLOv5的原始输出：这三个节点对应YOLOv5的三个检测头（不同尺度的特征图）

优点：实现比较快，只需要现在rknnlite的python-api的whl库文件即可，几乎没有额外的依赖文件缺点：计算效率较低，目前测试，计算一帧图像（model_size:[384,640]）在100ms以上。不满足实时检测的需求推荐：后期尝试使用C++的api接口进行rknn模型推理，然后将C++部分使用cpython封装为so库文件，然后主体的python业务调用so库文件实现模型推理，效率很高，基本能实现视频流满帧推理。

直接在rv1126开发板本机将python脚本编译成cpython的so库，容易遇到内存不足的报错，增加交换空间是个可行的方式。然后可以手动增加交换空间，例如增加500M空间。首先确认一下初始状态。

pipl很难直接找到预编译的whl文件，很多库是直接直接下载tar.gz源码，并在线编译，但rv1126编译非常慢，且容易报错。在本地联网的rv1126已经部署完成完整的python环境，需要直接把库文件打包，然后拷贝移植到待部署的离线rv1126板子（本文档方案，这个OpenCV是通过系统包管理器安装的，路径在 /usr/lib/python3/dist-packages/，并且依赖了大量的系统库。（编译whl时的python环境要与现场环境一致，编译时需要下载好所有需要的依赖否则编译失败。

pipl很难直接找到预编译的whl文件，很多库是直接直接下载tar.gz源码，并在线编译，但rv1126编译非常慢，且容易报错。在本地联网的rv1126已经部署完成完整的python环境，需要直接把库文件打包，然后拷贝移植到待部署的离线rv1126板子（本文档方案，需要在离线的rv1126开发板部署一套python环境，现场环境不支持直接烧录rv1126开发板，只能ssh部署。（编译whl时的python环境要与现场环境一致，编译时需要下载好所有需要的依赖否则编译失败。numpy库离线移植安装成功！

pipl很难直接找到预编译的whl文件，很多库是直接直接下载tar.gz源码，并在线编译，但rv1126编译非常慢，且容易报错。要将Shapely库移植到离线的RV1126板子上，需要同时移植Shapely的Python包文件及其核心依赖GEOS库。需要在离线的rv1126开发板部署一套python环境，现场环境不支持直接烧录rv1126开发板，只能ssh部署。（以上只是按照示例结果得出的路径信息，真实路径应以实际搜索到的路径为准）（以上只是按照示例结果得出的路径信息，真实路径应以实际搜索到的路径为准）

下载连接：https://pypi.org/project/rknn-toolkit2/#files。python 安装rknn-toolkit-lite。选择对应的python版本、软件版本、和系统架构。选择对应的python版本、软件版本、和系统架构。python安装rknn-toolkit2。

rknn-toolkit国内源

rknntoolkit安装（linux）

rknn toolkit docker下载链接

然后name自左往右分别是：338, 376, 414。分别单击Reshape模块，查看OUTPUTS的。

创建rknn对象。rknn的参数配置，这个函数需要设置的参数细节很多。加载onnx模型构建rknn模型模型转换并输出rknn模型接下来，依次具体介绍上述这些函数，以及包含的所有参数和默认值。建议直接在官网github上找到最新的整体流程图：当前介绍的rknn-api版本是V1.7.3。