在Ubuntu18.04中安装CUDA、cuDNN、TensorRT

系统配置与版本说明

• 系统版本：18.04
• NVIDIA驱动：515
• CUDA：11.6
• cuDNN：8.6.0
• TensorRT：8.5.1
• 终端：bash

一、安装NVIDIA驱动

sudo apt install nvidia-driver-515

通过在终端中输入 nvidia-smi 来查看是否安装成功。（操作时忘记截图，随便找了个给大家看看，运行命令能输出类似的信息即可）

Tips:这里显示的 CUDA Version 并非我们实际安装的CUDA版本，而是该驱动所能支持的最新版本

二、CUDA安装

wget https://developer.download.nvidia.com/compute/cuda/11.6.2/local_installers/cuda_11.6.2_510.47.03_linux.run
sudo sh cuda_11.6.2_510.47.03_linux.run

将上述命令复制在终端运行即可。

个人建议：第一步下载推荐直接复制网址到浏览器下载，然后在定位到下载文件夹中后运行第二步指令。在终端中下载遇到了两次到99%就报错

1. 运行上述第二步命令后，等电脑反应一会便会出现下图所示的终端输出。在这一步，如果你的驱动版本比我们的所要安装的这个版本高，那就无需理会，直接continue就好，如果版本很低，可以先卸载低版本再安装。当然也可以什么都不管直接continue
   
2. 输入accept，然后回车继续
   
3. 仅保留cuda toolkit，其余均不选择
   
4. 安装完成之后，终端会显示下图所示信息（第一次安装）
   
5. 将下列的信息写入到 bashrc 中

   export PATH=$PATH:/usr/local/cuda
   export PATH=$PATH:/usr/local/cuda/bin
   export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda-11.6/lib64
   

6. 测试，在终端中输入如下命令

   nvcc -V
   

   输入下图信息，则表示cuda安装成功。
   

三、cuDNN安装

3.1 准备工作

1. 在安装之前根据官网的提示需要先检查一下是否安装lib

   sudo apt-get install zlib1g
   

2. 下载cuDNN
   cuDNN下载链接，记得选择cuDNN v8.6.0，forCUDA 11.X这一版哦

3.2 安装过程

1. 下载好安装包后，解压文件

   tar -xvf cudnn-linux-$arch-8.x.x.x_cudaX.Y-archive.tar.xz
   

2. 将下列文件复制到CUDA路径中

   sudo cp cudnn-*-archive/include/cudnn*.h /usr/local/cuda/include 
   sudo cp -P cudnn-*-archive/lib/libcudnn* /usr/local/cuda/lib64 
   sudo chmod a+r /usr/local/cuda/include/cudnn*.h /usr/local/cuda/lib64/libcudnn*
   

3.3 验证

cd /usr/local/cuda/lib64
ll libcudnn*

会显示我们刚刚复制到lib64中的cudnn文件，如下图

在完成安装后，我们也可以通过查看头文件的方式查看cudnn版本

cd /usr/local/cuda/include
vim cudnn_version.h

四、TensorRT安装

4.1 准备工作

• 下载压缩包
  下载TensorRT 8.5 GA。下载需要你有NVIDIA的账号，没有的自行注册，这里不再啰嗦

4.2 安装TensorRT

1. 解压文件

   tar -xvf <你的文件名>
   

2. 将文件路径加入到 bashrc 中

   	export PATH=$PATH:<你的TensorRT解压目录>/bin
   	export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:<你的TensorRT解压目录>/lib
   

4.3 验证

验证是否安装成功，在终端中输入 trtexec ，输出如下

4.4 TensorRT demo演示

cd <你的TensorRT-8.5.1.7解压路径>/samples/sampleOnnxMNIST/
make -j2

输入如下：

然后定位到刚刚编译生成的文件所在位置

cd ../..
cd bin/
./sample_onnx_mnist

这里的数字是随机的，每次运行都可能不一样，只要显示数字即可。

至此，CUDA、cuDNN、TensorRT均已安装成功。

如果本篇BLOG有帮助到您，希望您留个赞或收藏😘