1.下载与CUDA版本相适应的TensorRT版本tar压缩包(登录英伟达账户才能下载,在此之前应当已经安装好CUDA和cuDNN),下载地址
2.解压此压缩包并将里面的TensorRT-8.5.3.1
文件夹放到期望的位置,比如直接放在home
目录下
3.添加环境变量(在~./bashrc
文件中加入以下两行,注意修改为自己的路径)
export LD_LIBRARY_PATH=/path/to/TensorRT-7.0.0.11/lib:$LD_LIBRARY_PATH
export LIBRARY_PATH=/path/to/TensorRT-7.0.0.11/lib::$LIBRARY_PATH
4.测试是否安装成功
cd TensorRT-8.5.3.1/samples/sampleOnnxMNIST
make -j4
# 在文件夹 TensorRT-8.5.3.1/targets/x86_64-linux-gnu/bin下会有生成的可执行文件sample_onnx_mnist
# 在Terminal中进入此文件夹并运行该可执行文件
./sample_onnx_mnist
至此,TensorRT-8.5安装完成。