新版(这里测试的是10.1版)的onnx转tensorrt engine工具trtexec已经集成在TensorRT中,不需要额外单独安装。
注意:cuda应当是从deb包或者直接根据apt的命令下载得到的,否则第4步的时候会报缺乏依赖的错误!!!
1. 下载TensorRT对应版本的deb包
在这里找到对应的deb包,用wget命令或者别的方法下载。注意deb包必须与你的ubuntu和cuda版本一致。
2. 解压TensorRT deb包
切到该包的下载目录,命令行执行(将下面的deb包名换成你下好的那个版本的包名)
sudo dpkg -i nv-tensorrt-local-<...>.deb
执行下面命令将该包的密钥加入到apt中(下面的<…>换成你的,