安装TensorRT之前请确保显卡驱动 CUDA cuDNN全部成功安装
安装CUDA+显卡驱动请参照:
【亲测】ubuntu20.4 显卡驱动+CUDA11.8一起安装_Coding_C++的博客-CSDN博客
安装cuDNN请参照:
【亲测】ubuntu20.4 安装cuDNN v8.9.3_Coding_C++的博客-CSDN博客
一、在NVIDIA官网下载TensorRT
1、网址:Log in | NVIDIA Developer
2、选择TensorRT8
3、选择TensorTR8.6 GA
4、我们选择TAR格式安装(.deb安装很麻烦)
5、选择后会进行下载,直到下载完成。
二、安装
1、下载完成后会在Downloads下有(如:TensorRT-8.6.1.6.Linux.x86_64-gnu.cuda-11.8.tar.gz)
2、解压 tar -xzvf TensorRT-8.6.1.6.Linux.x86_64-gnu.cuda-11.8.tar.gz
3、执行命令sudo cp -r TensorRT-8.6.1.6 / 将解压的内容拷贝到指定目录(我是到根目录了)
三、配置TensorRT
1、添加系统路径
sudo gedit ~/.bashrc
2、打开~/.bashrc最后添加
export LD_LIBRARY_PATH=/TensorRT-8.6.1.6/lib:$LD_LIBRARY_PATH
3、让添加的路径生效
source ~/.bashrc
四、测试TensorRT安装是否成功
1、在/TensorRT-8.6.1.6/samples/下找到sampleOnnxMNIST
2、进入sampleOnnxMNIST文件夹
cd sampleOnnxMNIST
3、编译sampleOnnxMNIST
4、编译成功后在/TensorRT-8.6.1.6/bin会生成sample_onnx_mnist
5、执行sample_onnx_mnist
6、成功后显示
至此TensorRT安装成功