更新时间
最近更新: 2022-07
开发板:地平线 旭日 X3 PI
准备工作
- 转换后的bin模型,可参考之前文章。
- 原始模型推理脚本,onnx或者torch的;根据此脚本改写前后处理。
改写推理脚本
- 本文使用python推理脚本改写,这里主要根据原来的后处理改写即可。
板上模型运行情况记录
- 这里后处理都是python正在项目C++情况下帧数会更高一些。
模型 | 转换差异 | 算子支持情况 | BPU核数 | 输入尺寸 | FPS |
---|---|---|---|---|---|
nanodet-plus | 尚可 | 大部分可在BPU上运行 | 1 | 320 | 6 |
nanodet-plus | 尚可 | 大部分可在BPU上运行 | 2 | 320 | 9 |
yolox-nano | 差异大 | 大部分可在BPU上运行 | – | – | – |
fastestdet | 尚可 | 部分在CPU上运行 | – | – | – |