windows环境下yolov5使用tensorrt加速,生成engine文件

yolov5自带了export.py文件,用于将pt格式的权重文件转化为其他格式,其中包括'torchscript, onnx, openvino, engine, coreml, saved_model, pb, tflite, edgetpu, tfjs'

生成engine需要安装tensorrt,
具体可参考https://blog.csdn.net/weixin_43917589/article/details/122578198,

安装好之后可使用export.py完成转换。

在我转化过程中遇到了个问题

TensorRT: export failure: [WinError 127] 找不到指定的程序。PyTorch: starting from E:\VisualStudioIDE\AIProject\yolov5\yolov5s.pt with output shape (1, 25200, 85) (14.1 MB)

TensorRT: export failure: [WinError 127] 找不到指定的程序。

之后在githubshang找到了原因
https://github.com/ultralytics/yolov5/issues/10706
解决方案是使用annconda虚拟环境中的cublas64_11.dll文件替换掉cuda环境中的cublas64_11.dll文件。

经过测试发现engine文件确实速度比pt文件快,但精度比不上pt文件。

仅此以记录自己使用tensorrt加速yolov5的过程。

  • 1
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 8
    评论
评论 8
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值