Nvidia显卡对应驱动，cuda toolkit 和 cuDNN 之间的版本关系

当我们的电脑安装了nvidia 的显卡后。我们想将于运用于深度学习的话，我们需要安装显卡对应的 驱动， cuda toolkit 和 cuDNN 。

现在我们来了解这几个东西之间的概念，和关系。

1. 显卡驱动是干什么的？

做过软件开发的同学，都知道接口。接口是用来提供能力的。那么这个驱动就好比是一个接口，他可以帮你提供使用GPU 的能力。

2. cuda toolkit 是干什么的？

CUDA Toolkit 是用于开发和运行基于 CUDA 的应用程序的软件包。它包含了编译器、库、工具和示例等组件，用于编写、构建和优化 CUDA 应用程序。CUDA Toolkit 还提供了与 GPU 相关的驱动程序和运行时库，以便在系统上正确配置和管理 GPU。

搞过编程的同学知道，我们要调用一些系统底层功能，是不是要调用一些库。不管是开发c，cpp， 还是golang ,java ，python ,当我们需要做一件事情的时候，通常我们都是看看有没有这方面的库，有的话直接拿来用，而不是自己重写一个，造个轮子，那样太费时费力了。那么这个工具集就给你提供了很多的工具，和库，让你来方便操作，不用自己去搞。这个库的主要目的是帮你封装好了很多的操作这个gpu ，也就是操作这个 cuda 驱动的库。

特别是搞java 的同学都知道，java 有个 sdk ，全称 soft development kit 软件开发包，这个java sdk 给你提供了很多开发，编译的工具和库。那么这个 cuda toolkit 一样，给你提供了很多cuda 相关的 工具集合，让你方便的使用gpu 的能力。

3. cuDNN 是干什么的？

cuDNN（CUDA Deep Neural Network library）是 NVIDIA 为深度学习框架提供的加速库。它为深度神经网络的训练和推理提供了高性能的 GPU 加速支持。cuDNN 提供了一系列优化的算法和函数，用于加速卷积、池化、归一化等常用的深度学习操作。它与 CUDA 和 CUDA Toolkit 配合使用，提供了对深度学习框架（如TensorFlow、PyTorch等）的 GPU 加速能力

综上：

因此，CUDA Toolkit 是用于开发和构建基于 CUDA 的应用程序的软件包，包括编译器、库和工具等。而 cuDNN 则是用于加速深度学习框架的 GPU 计算库，它建立在 CUDA 和 CUDA Toolkit 的基础上。在使用深度学习框架进行 GPU 加速时，通常需要安装和配置正确版本的 CUDA Toolkit 和 cuDNN，以便充分利用 GPU 的计算能力。

4.确定显卡驱动版本

当我们拿到了显卡后，我们如何确定，我们应该给该显卡安装什么版本的驱动，才能使用驱动该显卡呢？

首先我们要知道我们的显卡型号。例如我这里的是RTX 3090，那么我现在去官网查询下。
查询网址：Official Drivers | NVIDIA

点击search 可以查询到下图。

 上图就说明了你这个显卡需要安装的驱动版本，点击Download我们可以进入到下载页面。这里我们可以看到第二个标签, supported products ，我们可以看到这个版本的驱动支持的产品有哪些，如下图：

 那么这里显卡驱动版本和下载 我就说完了。

5.确定 cuda toolkit 版本

进入到下载页面：Developer Download Centers | NVIDIA Developer

 

 Learn more 链接也可以直接点：CUDA Toolkit - Free Tools and Training | NVIDIA Developer 

 进入后滑到最下面点击我框出来的内容。也可以直接通过链接访问：CUDA 12.1 Update 1 Release Notes

 进入文档页面后，我们可以看到表2 和表3 ，如下图：

表2 

 表3 （ 太长了，我只截取部分）

 通过表2 或者表3 可以知道，（我的驱动版本是525.116.04），那么我可以使用cuda toolkit 的版本是 <= 12.0。 从这个表我们也能知道，cuda 驱动是向下兼容的，如果你的驱动版本高，是兼容更低版本的 cuda toolkit 版本的。

现在我确定了cuda toolkit 的版本后，我现在就要下载对应的 版本了。

 6.下载cuda toolkit

进入到下载页面链接CUDA Toolkit - Free Tools and Training | NVIDIA Developer

点击 Download now , 进入到下面的页面。

 再点击 Archive of Previous CUDA Releases 进入归档的页面，可以看到所有版本。

刚才确定了 cuda toolkit 的版本不大于12.0 就可以了，那这里我选择 12.0.0。如下图：

 然后点击进入到平台选择了，如下图 ：

 因为我这里是 linux x86_64 ubunut 22.04 版本，现在我的选择如下图：

选择好了之后，就可以按照上面的安装提示来安装了。

注意：

在安装 cuda toolkit 的时候，在accpet 后，是可以看到，有驱动可以选择安装。所以，也不需要像上面，单独安装驱动，这里可以一次性安装驱动，和toolkit 。

7.确定 cuDNN 版本

还是首先进入下载页面：Developer Download Centers | NVIDIA Developer

进入后如下图：

然后再进入到库页面，如下图：（这个地方需要往下滑动下，在比较后面点）

 

 上面的NVIDIA cuDNN 的链接，也可以直接通过 CUDA Deep Neural Network (cuDNN) | NVIDIA Developer来进入。

进入后如下图：

 再点击下载 cuDNN, 进入到下面的页面：

勾选 同意后变成：

 选择上面红框中的（因为可以看到所有的版本），点击后如下图：

 因为我的cuda toolkit 版本是12.0，所以我选择上图红框中的，选中后效果如下：

然后选择对应的平台架构，我这里因为是ubuntu x86_64 ,所以我选择上图红框中的。

 然后点击下载。具体的安装方式可以参考官方文档：
Installation Guide - NVIDIA Docs

你这里也可以采用其他的方式安装，比如使用 tar.xz 包的方式。都可以，随意选择。

 

至此，所以都讲完了，希望能够帮助到你。最下面会有后记！有我安装后的输出日志。

下面的图希望你能多看两眼。能利益到你。

 这个是楞严咒种子字，也能帮助到诸位。和诸位结个善缘。南无阿弥陀佛。南无观世音菩萨。

后记：

安装完cuda toolkit 后的效果：（注：我这里安装的时候没有选择安装驱动，因为驱动已经之前安装过了）所以输出的效果如下。