Ubuntu 安装 CUDA和cuDNN

https://www.cnblogs.com/blog4ljy/p/9281592.html

无论 win 还是 linux，cuda 都需要下载安装包来安装的。而 cudnn，无论win，还是 linux，它都只是一个库，并不存在安装过程，下载下来 解压到对应位置即可。

二 ，我联想的双3090，服务器输入 nvidia-smi，后看到如下：

虽然看到 CUDA Version：12.但 它不表示 已经安装了 cuda 12了，只是表示

CUDA最高支持12.0版本 ，本希望可以安装12.0以下的版本。

 特别注意：

如果你显卡是 30系列的显卡，一定要 安装 cuda 11

30 系列显卡是新一代架构，新驱动不支持 cuda 9 以及 cuda 10，所以必须安装 cuda 11

其实最简单的方法是 通过命令行 安装 cuda 和 cudnn，参考的这篇

在conda虚拟环境里面用比服务器的cuda版本更高的cuda - 知乎

conda search cudatoolkit

conda install cudatoolkit=11.6.0

conda install cudnn=7.6.5

安装完了后，nvcc -v 发现还是 10.1，估计是 path 没有设置，参考这篇设置 path

nvcc -V

Ubuntu笔记--系统安装有多个Cuda时，切换Cuda版本_cuda怎么修改路径_憨豆的小泰迪的博客-CSDN博客

 因为我要搞一个旋转框目标检测，PT版本不能太高，参考这篇，于是我搞了个 pytorch==1.8.1，在 pytorch官网 Previous PyTorch Versions | PyTorch

python   3.8.16 

对应的找到 CUDA 11.3 对应上，

# CUDA 11.3
conda install pytorch==1.8.1 torchvision==0.9.1 torchaudio==0.8.1 cudatoolkit=11.3 -c pytorch -c conda-forge

# CPU Only
conda install pytorch==1.8.1 torchvision==0.9.1 torchaudio==0.8.1 cpuonly -c pytorch

 前面我用  conda search cuda  命令 搜索到  conda 有哪些 cuda可以安装，上面既然要我安装 CUDA 11.3，那我去找找  conda search cuda 有没有给出 11.3.

# 安装CUDA
conda install cudatoolkit=11.3 # 指定版本
# 安装cudnn，如果不指定版本，在安装CUDA之后，会自动匹配对应版本的cudnn安装
conda install cudnn

anaconda环境下载安装GPU版本pytorch时遇到的问题及解决方法(cuda11.3)_pytorch的gpu版老是装不上_Skylar_M的博客-CSDN博客用白勇老师YOLO课程里的桌面安装CUDA和cudnn教程完成，建议不要网上搜索的，很多都不准。

  tar ‐xvf cudnn‐9.0‐linux‐x64‐v7.4.2.24.tgz
ubuntu16.04查看CUDA和cuDNN版本
 
cat /usr/local/cuda/version.txt

cat /usr/local/cuda/include/cudnn.h | grep CUDNN_MAJOR -A 1

cuda的 安装，用 nvcc -V ，出错后 它 提示你 用

apt-get  xxxx 的方式安装，此时你用 它提示的 安装即可，本人亲测有效。

在ubuntu安装cuda10.1和cudnn（亲测有效）_ubuntu安装cuda和cudnn_关彼得的博客-CSDN博客

记：
跑深度学习安装上CUDA就可以正常使用GPU了！不一定需要安装cuDNN，具体看你的项目需求，我的是安装上CUDA就可以跑我的深度学习项目了，用不到cuDNN。

CUDNN

先这里去下载 对应版本

cuDNN Archive | NVIDIA Developer

tar -zxvf cudnn-10.1-linux-x64-v7.6.5.32.tgz

sudo cp cuda/include/cudnn.h /usr/local/cuda/include/ 
sudo cp cuda/lib64/libcudnn* /usr/local/cuda/lib64/ 
sudo chmod a+r /usr/local/cuda/include/cudnn.h 
sudo chmod a+r /usr/local/cuda/lib64/libcudnn*

参考：

ubuntu全版本安装CUDA任意版本和cudnn任意版本，以及随意卸载_卸载指定版本cuda_模糊包的博客-CSDN博客

最新12,4 CUDA 安装成功步骤：

最新在公司两台4090服务器上的安装教程：

先去 CUDA Toolkit Archive | NVIDIA Developer 

 选个 cuda 版本，我这里选了 12.4 通过 nvidia-smi 看 显卡驱动最高支持 cuda 是12.4

跳转网页如下：

按照上面命令执行完，然后用 

nvcc -V，如果出现，说明安装成功，没有出现，用下面搞定

 nvcc命令无法找到的原因可能是由于PATH环境变量没有正确配置

nano ~/.bashrc

export PATH=/usr/local/cuda-12.4/bin${PATH:+:${PATH}}
export LD_LIBRARY_PATH=/usr/local/cuda-12.4/lib64${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}

• 保存文件：按下 Ctrl + O（这是保存文件的快捷键）。

• 确认文件名：nano 会提示你确认要保存的文件名，直接按 Enter 键确认。

• 退出编辑器：按下 Ctrl + X（这是退出 nano 的快捷键）。

 保存并关闭文件，然后刷新环境变量：

source ~/.bashrc

再次检查nvcc命令：

nvcc -V

如果仍然提示找不到nvcc，请确认CUDA是否正确安装在指定目录，并确保路径配置没有错误。

此外，你也可以检查/usr/local目录下是否有CUDA安装目录：

ls /usr/local

如果CUDA安装成功，你应该能看到cuda-12.4目录。确认该目录存在并包含bin目录中的nvcc文件：

ls /usr/local/cuda-12.4/bin
 

最新12.4 CUDNN 安装成功步骤： 

先去 https://developer.nvidia.com/rdp/cudnn-archive 

找到12,4 cuda 对应的版本，Windows下点下载，或者复制下载链接

wget "https://developer.download.nvidia.com/compute/cudnn/secure/8.9.7/local_installers/12.x/cudnn-linux-x86_64-8.9.7.29_cuda12-archive.tar.xz?QzUUpa_asMNVb8fkHeAsMPD9BEE9S9heLTGJZRf34dFhUCX-HBfaQCcPRSmvQNC-WsaBWTs6aCdoIjTSyJPIW32iyqJ6ko9IyTNa9le2dsUYr8_vD4MkSokWB554mHMRhoSNUuHuoQZJ18t-pJDMAt4EVCKT6qV4xRDxH5KkvYSWJZICaADqqMdchvQFu6NpIkSn51iebwmVmlztsYl0nAQ=&t=eyJscyI6ImdzZW8iLCJsc2QiOiJodHRwczovL3d3dy5nb29nbGUuY29tLyJ9" -O cudnn-linux-x86_64-8.9.7.29_cuda12-archive.tar.xz

 

tar -xvf cudnn-linux-x86_64-8.9.7.29_cuda12-archive.tar.xz

sudo cp cudnn-linux-x86_64-8.9.7.29_cuda12-archive/include/cudnn*.h /usr/local/cuda/include
sudo cp -P cudnn-linux-x86_64-8.9.7.29_cuda12-archive/lib/libcudnn* /usr/local/cuda/lib64
sudo chmod a+r /usr/local/cuda/include/cudnn*.h /usr/local/cuda/lib64/libcudnn*

cat /usr/local/cuda/include/cudnn_version.h | grep CUDNN_MAJOR -A 2

 

安装 gpu 版本 pytorch

 Start Locally | PyTorch