1.在官网下载好tensorrt,进入bin目录。(注意:在ubuntu上需要加上sudo,使用管理员权限。)
运行如下模型转换命令:
sudo ./trtexec --onnx=model_res512672_best.onnx --saveEngine=model_res512672_best.trt --workspace=1024 --iterations=1 --verbose
--workspace = 1024 以兆字节为单位设置工作区大小(默认 = 16)
--iterations = 1 运行至少 N 次推理迭代(默认 = 10)
--verbose 使用详细日志记录 (默认 = false)
(注意:设置--workspace时需要先查看系统可用的内存。)
结果1:如果报错。需要尝试在/tensorrt/bin 目录下添加几个动态链接库。
例如在windows上:
加上:myelin64_1.dll;nvinfer.dll;nvinfer_plugin.dll;nvonnxparser.dll;nvparsers.dll。