Tensorrt安装攻略

1、下载

配置版本：ubuntu 20.04+cuda11.4.1+cudnn 8.9.2.26+tensorrt8.5.3.1

下载网址：Installation Guide :: NVIDIA Deep Learning TensorRT Documentation

 2、相关信息查询

显卡型号—显卡驱动--cuda版本--cudnn版本

显卡驱动查询和下载

查看显卡型号：

查看显卡驱动版本：$ nvidia-smi

从终端可以看出显卡驱动版本是530.41.03，安装cuda的最高版本是12.1，

此处应注意，cuda的版本不能高于12.1

3、安装cuda

3.1 选择对应的版本，下载cuda安装文件，我这里下载的是cuda11.4，官方下载地址是：CUDA Toolkit 11.4 Update 4 Downloads | NVIDIA Developer

注意此处cuda下载不要选择deb的安装包，deb安装会自动下载一个新的驱动，导致显卡自带的驱动和cuda下载的驱动不匹配，nvidia-smi无法使用。

按照installation instruction终端执行下载安装。运行上面指令后，会弹出如下界面，点击continue，然后再输入accept。

接着，如下图所示，在弹出的界面中通过enter键，取消Driver和450.51.05的安装，然后点击install，等待

3.2 配置cuda的环境变量

cuda安装完成后，需要配置变量环境。

终端$ sudo gedit ~/.bashrc

输入并保存：

export PATH="/usr/local/cuda-11.4/bin:$PATH"

export LD_LIBRARY_PATH="/usr/local/cuda-11.4/lib64:$LD_LIBRARY_PATH"

export CUDA_INSTALL_DIR=/usr/local/cuda-11.4/lib64

export CUDNN_INSTALL_DIR=/usr/local/cuda-11.4/lib64

终端￥source ~/.bashrc 或者重启终端使之生效。

3.3 终端$ nvcc -V，查看cuda的安装信息，如下图所示，至此安装成功

3.4 安装好后/usr/local/文件夹下面会多了两个文件夹，如下图

4、安装cudnn

下载网址：Installation Guide - NVIDIA Docs

下载tar安装包

按照官网流程一步步安装cudnn

至此，cuda和cudnn都安装好了，下一步开始安装tensorrt

5、下载tensorrt，下载版本tensorrt8.5.3.1

5.1下载网址：Log in | NVIDIA Developer

5.2安装

官方安装网址：Installation Guide :: NVIDIA Deep Learning TensorRT Documentation

按照教程一步步安装。

5.3检测是否正确安装

可以正确import tensorrt，至此，tensorrt安装完成。