测试pytorch cpu版,需要1.4s,300多ms还是有点优化的。
服务器上cpu2.07s
https://github.com/Rapternmn/PyTorch-Onnx-Tensorrt
版本需要按照作者的:
Onnx 1.4.1
有预测代码和下载方法:
https://github.com/Rapternmn/PyTorch-Onnx-Tensorrt/blob/master/detect.py
测试结果:300多ms,有cpu版好像差不多,无优化
有权重:
https://github.com/htshinichi/onnx-yolov3
https://github.com/jacke121/onnx-yolov3
这个加载权重失败,报错:
onnxruntime.capi.onnxru