Cuda、cuDNN的下载、安装、卸载

主机有显卡的可以安装Cuda用GPU加速模型训练

1.安装显卡硬件对应的驱动

可以参考Ubuntu物理机显卡驱动安装的几种方式安装显卡驱动
输入nvidia-smi，查看自己所需要的cuda版本号，我的是12.1

2.下载对应显卡驱动版本的cuda

打开nvidia官网，点击对应版本链接进入下载界面（我的是12.1，选择12.1的任一版本都可以）


将上面生成的命令拷贝下来，先执行第一行命令下载cuda：

wget https://developer.download.nvidia.com/compute/cuda/12.1.0/local_installers/cuda_12.1.0_530.30.02_linux.run

3.cuda的安装

下载完成后执行chmod 777 【下载的sh文件】赋予执行权限，然后执行第二行命令安装cuda：

sudo sh cuda_12.1.0_530.30.02_linux.run

（1）遇到如下界面，选择continue继续

（2）遇到如下界面，输入accept

（3）遇到如下界面，按Enter键取消勾选驱动（显卡驱动已经安装过了），点击install安装其他组件

安装完成后显示如下路径

同时系统会在安装目录下自动生成一个/cuda的链接指向/cuda-版本号

4.cuda的环境变量配置

4.1 输入sudo vi ~/.bashrc命令修改环境变量
根据自己anaconda3的路径名，在文件末尾加入以下四行：

export PATH="/anaconda3的路径名/anaconda3/bin:$PATH"
export LD_LIBRARY_PATH=/usr/local/cuda/lib64:/usr/local/cuda/extras/CPUTI/lib64
export CUDA_HOME=/usr/local/cuda/bin
export PATH=$PATH:$LD_LIBRARY_PATH:$CUDA_HOME

4.2 输入source ~/.bashrc命令激活刚刚修改的内容
4.3 依次输入以下命令，测试cuda是否安装成功

nvcc -V
cd /usr/local/cuda/extras/demo_suite/
./bandwidthTest

出现Result = PASS即为成功

5.cuda的卸载

5.1 进入到cuda的安装目录，找到有关unintall的文件，执行卸载命令：sudo /usr/local/cuda-12.1/bin/cuda-uninstaller

5.2 勾选要卸载的cuda版本所有组件

5.3 卸载成功后，删除相关文件

5.4 删除相关环境变量
输入sudo vi ~/.bashrc将最下面和cuda有关的删除，执行source ~/.bashrc重新激活环境变量配置即可

6.以tar方式下载、安装、卸载cudnn

（1）下载对应cuda版本的cuDNN

打开nvidia官网，点击对应版本链接进入下载界面（我的cuda版本是12.1，选择12.x的任一版本的cuDNN都可以，推荐使用tar包的方式），下载需要注册登陆英伟达账户（自行百度）

（2）将下载好的文件拷贝到Ubuntu系统中，并执行以下解压缩命令：

unxz cudnn-linux-x86_64-8.9.0.131_cuda12-archive.tar.xz
tar -vxf cudnn-linux-x86_64-8.9.0.131_cuda12-archive.tar

（3）cuDNN的安装
进入解压后的目录中，打开终端，输入下述命令：

sudo cp include/cudnn*.h /usr/local/cuda/include/
sudo cp lib/libcudnn* /usr/local/cuda/lib64
sudo chmod a+r /usr/local/cuda/include/cudnn*.h /usr/local/cuda/lib64/libcudnn*

（4）执行完毕后，输入以下命令验证cuDNN是否安装成功：

cat /usr/local/cuda/include/cudnn_version.h | grep CUDNN_MAJOR -A 2

提示信息是指：在这个文件中不能使用 ​constexpr​ 关键字，因为这个文件是仅限于C语言的。
（5）cuDNN的卸载
通过tar包安装的cudnn，通过以下命令将拷贝到cuda安装目录的有关cudnn的文件删除即可：

sudo rm -rf /usr/local/cuda/include/cudnn.h
sudo rm -rf /usr/local/cuda/lib64/libcudnn*

7.以deb方式下载、安装、卸载cudnn

（1）先切换到/usr/local目录下，然后创建一个目录CuDNN

cd /usr/local
mkdir CuDNN
cd CuDNN

（2）前往https://developer.nvidia.com/rdp/cudnn-archive下载所需文件

（3）将下载文件拷贝到/usr/local/CuDNN/目录下

运行以下命令安装CUDNN7.4.2,这里安装顺序一定要如下所示：

sudo dpkg -i libcudnn7_7.4.2.24-1+cuda10.0_amd64.deb
sudo dpkg -i libcudnn7-dev_7.4.2.24-1+cuda10.0_amd64.deb 
sudo dpkg -i libcudnn7-doc_7.4.2.24-1+cuda10.0_amd64.deb

（4）把文件复制到/usr/local/cuda/include文件夹下面,并修改权限：

sudo cp /usr/include/cudnn.h /usr/local/cuda/include 
sudo chmod a+x /usr/local/cuda/include/cudnn.h

（5）检测是否安装成功的测试命令：

cat /usr/local/cuda/include/cudnn.h | grep CUDNN_MAJOR -A 2

（6）卸载以deb方式安装的cudnn

#查询已安装的cudnn
sudo dpkg -l | grep cudnn
#删除拷贝的文件
rm -rf /usr/local/cuda/include/cudnn.h
#卸载安装的cudnn，注意卸载和安装顺序相反
sudo dpkg -r libcudnn7-doc
sudo dpkg -r libcudnn7-dev
sudo dpkg -r libcudnn7
#再次查询已安装的cudnn，没有任何输出即卸载成功。
sudo dpkg -l | grep cudnn