RKNN-Toolkit2不同版本导出的RKNN模型输出不同

RKNN-Toolkit2不同版本导出的RKNN模型输出不同

在我的虚拟机中安装过RKNN-Toolkit2的1.4.0版本
在这里插入图片描述

在转换RockChip官方提供的的RetinaFace_mobile320.onnx模型(下载链接为:https://ftrg.zbox.filez.com/v2/delivery/data/95f00b0fc900458ba134f8b180b3f7a1/examples/RetinaFace/RetinaFace_mobile320.onnx)为RKNN后,查看网络输出如下:

在这里插入图片描述

可以看到RKNN-Toolkit2的1.4.0转换的RetinaFace_mobile320.onnx的三个输出都是四维的,如果使用这个RKNN模型和RockChip官方提供的后处理代码去RK3588上进行推理会报错,显示维度问题。

分析官方的后处理代码和原模型的推理代码发现三个输出应该是三维的,接着查找相关资料发现别人的RetinaFace推理没遇到问题,最后怀疑是RKNN-Toolkit2的版本转换出来的RKNN模型推理的结果不一样。

卸载RKNN-Toolkit2的1.4.0,安装最新的RKNN-Toolkit2版本时出现过下面这种情况(python=3.8)

在这里插入图片描述

开始我以为时是现在库都更新了,各种库的版本和python版本不兼容了,引发的冲突

直到我看到小诺最帅气分享的https://blog.csdn.net/weixin_51447731/article/details/137088316?spm=1001.2014.3001.5506文章,发现原来是清华源暂时没有tf-estimator-nightly==2.8.0.dev2021122109这个安装包

故我执行下面语句单独安装这个包

pip install -i https://pypi.doubanio.com/simple/ tf-estimator-nightly==2.8.0.dev2021122109

然后安装requirements中的库和新版的RKNN-Toolkit2,成功安装

在这里插入图片描述

使用新版本的RKNN-Toolkit2转换RetinaFace_mobile320.onnx模型,观察模型

在这里插入图片描述

此时的RKNN模型的三个输出为三维了,RKNN-Toolkit2的不同版本转换出来的RKNN模型推理的结果是不一样的。

  • 10
    点赞
  • 10
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
RKNN-Toolkit2是一个用于在Rockchip AI芯片上进行深度学习推理的工具包。它提供了一系列工具和API,用于将训练好的模型转换为RKNN格式,并在Rockchip AI芯片上进行推理。 使用RKNN-Toolkit2,您可以完成以下任务: 1. 模型转换:将训练好的模型转换为RKNN格式,以便在Rockchip AI芯片上进行推理。 2. 模型优化:对模型进行优化,以提高推理性能和准确性。 3. 模型部署:将转换和优化后的模型部署到Rockchip AI芯片上进行推理。 4. 推理测试:在rknn-toolkit2提供的模拟器中进行推理测试,以验证模型的性能和准确性。 以下是使用RKNN-Toolkit2的一些示例步骤: 1. 安装RKNN-Toolkit2:请参考引用中提供的安装教程,按照步骤安装RKNN-Toolkit2。 2. 准备模型:准备一个训练好的模型,可以是常见的深度学习框架(如TensorFlow、PyTorch)训练的模型。 3. 模型转换:使用RKNN-Toolkit2将模型转换为RKNN格式。根据您的模型类型和需求,可以选择不同的转换方法和参数进行转换。 4. 模型优化:根据您的需求,使用RKNN-Toolkit2对转换后的模型进行优化,以提高推理性能和准确性。 5. 模型部署:将优化后的模型部署到Rockchip AI芯片上进行推理。根据您的硬件环境和需求,可以选择不同的部署方式和参数进行部署。 6. 推理测试:使用rknn-toolkit2提供的模拟器,在模拟环境中进行推理测试,以验证模型的性能和准确性。 请注意,具体的步骤和参数可能因您的具体需求和环境而有所不同。建议您参考RKNN-Toolkit2的官方文档和示例代码,以获取更详细的信息和指导。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值