ubuntu安装cuda/cudnn/tensorrt详解

注意

首先cuda/cudnn/tensort最好全用统一的.deb安装。前面安装的cuda的deb先不要删除，后面安装tensort会依赖这个包。下面的安装，全部在官网找.deb安装。

1.安装显卡驱动(本机版本驱动535)

ubuntu-drivers devices 

注意：ubuntu-drivers devices 输出结果中，recommended为系统推荐的驱动

sudo apt install nvidia-driver-535

reboot

验证驱动

nvidia-smi

注意：CUDA Version：12.2是最高支持版本，下载的cuda只能低于这个版本号，因此本机下载11.8

2.安装cuda(本机版本11.8)

访问：https://developer.nvidia.com/cuda-toolkit-archive，找自己对应版本11.8下载

法一：deb安装

wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-ubuntu2204.pin

sudo mv cuda-ubuntu2204.pin /etc/apt/preferences.d/cuda-repository-pin-600

wget https://developer.download.nvidia.com/compute/cuda/11.8.0/local_installers/cuda-repo-ubuntu2204-11-8-local_11.8.0-520.61.05-1_amd64.deb

sudo dpkg -i cuda-repo-ubuntu2204-11-8-local_11.8.0-520.61.05-1_amd64.deb

sudo cp /var/cuda-repo-ubuntu2204-11-8-local/cuda-*-keyring.gpg /usr/share/keyrings/

sudo apt-get update

sudo apt-get -y install cuda

法二：run安装

看该帖子的第一部分cuda安装即可https://blog.csdn.net/zxdd2018/article/details/127705627

3.安装nvcc

注意：用法二安装cuda时，会自动安装nvidia-cuda-toolkit，下面不用选择啦

sudo apt install nvidia-cuda-toolkit

验证

nvcc -V

reboot

 4.安装cudnn(本机版本8.7.0.84)

访问：https://developer.nvidia.com/zh-cn/cudnn

sudo dpkg -i cudnn-local-repo-ubuntu2204-8.7.0.84_1.0-1_amd64.deb

sudo cp /var/cudnn-local-repo-*/cudnn-local-*-keyring.gpg /usr/share/keyrings/

sudo apt-get update

sudo apt-get install libcudnn8=8.7.0.84-1+cuda11.8

sudo apt-get install libcudnn8-dev=8.7.0.84-1+cuda11.8

sudo apt-get install libcudnn8-samples=8.7.0.84-1+cuda11.8

验证cudnn:

# 复制文件
cp -r /usr/src/cudnn_samples_v8/ $HOME

cd  $HOME/cudnn_samples_v8/mnistCUDNN

make clean && make

./mnistCUDNN

可能报错：test.c:1:10: fatal error: FreeImage.h: No such file or directory
解决办法：sudo apt-get install libfreeimage3 libfreeimage-dev

 5.安装tensorrt(本机版本8.5.1)

访问：https://developer.nvidia.com/nvidia-tensorrt-8x-download 

sudo dpkg -i nv-tensorrt-local-repo-ubuntu2204-8.5.1-cuda-11.8_1.0-1_amd64.deb
# sudo dpkg -i nv-tensorrt-local-repo-ubuntuxx04-8.x.x-cuda-x.x_1.0-1_amd64.deb

sudo cp /var/nv-tensorrt-local-repo-ubuntu2204-8.5.1-cuda-11.8/*-keyring.gpg /usr/share/keyrings/

sudo apt-get update

sudo apt-get install tensorrt

验证:

dpkg -l | grep TensorRT

如果遇到unmet dependencies的问题, 一般是cuda cudnn没有安装好。TensorRT的INCLUDE 路径是 /usr/include/x86_64-linux-gnu/, LIB路径是/usr/lib/x86_64-linux-gnu/,Sample code在/usr/src/tensorrt/samples, trtexec在/usr/src/tensorrt/bin下。

大公搞成，给个三连，谢谢！