tensorflow各个版本的CUDA以及Cudnn版本对应关系

概述，需要注意以下几个问题：

（1）NVIDIA的显卡驱动程序和CUDA完全是两个不同的概念哦！CUDA是NVIDIA推出的用于自家GPU的并行计算框架，也就是说CUDA只能在NVIDIA的GPU上运行，而且只有当要解决的计算问题是可以大量并行计算的时候才能发挥CUDA的作用。

CUDA的本质是一个工具包（ToolKit）；但是二者虽然不一样的。

显卡驱动的安装：

当我们使用一台电脑的时候默认的已经安装了NVIDIA的显卡驱动，因为没有显卡驱动根本用不了显卡嘛，但是这个时候我们是没有CUDA可以用的，我们可以更新我们的驱动，更新链接为：

https://www.nvidia.com/Download/index.aspx?lang=en-us

在这个里面可以根据自己的显卡类型选择最新的驱动程序。显卡驱动程序当前大小大概500多M。

CUDA ToolKit的安装：

CUDA的下载地址为：https://developer.nvidia.com/cuda-downloads

我们可以选择两种安装方式，一种是在线安装（我还没用过），一中离线安装（我采用的）即本地安装，

当我们选择离线安装，当我们选定相对应的版本之后，下载的时候发现这个地方的文件大小大概在2G左右，Linux系统下面我们选择runfile(local) 完整安装包从本地安装，或者是选择windows的本地安装。CUDA Toolkit本地安装包时内含特定版本Nvidia显卡驱动的，所以只选择下载CUDA Toolkit就足够了，如果想安装其他版本的显卡驱动就下载相应版本即可。

所以，NVIDIA显卡驱动和CUDA工具包本身是不具有捆绑关系的，也不是一一对应的关系，只不过是离线安装的CUDA工具包会默认携带与之匹配的最新的驱动程序。

注意事项:NVIDIA的显卡驱动器与CUDA并不是一一对应的哦，CUDA本质上只是一个工具包而已，所以我可以在同一个设备上安装很多个不同版本的CUDA工具包，比如我的电脑上同事安装了 CUDA 9.0、CUDA 9.2、CUDA 10.0三个版本。一般情况下，我只需要安装最新版本的显卡驱动，然后根据自己的选择选择不同CUDA工具包就可以了，但是由于使用离线的CUDA总是会捆绑CUDA和驱动程序，所以在使用多个CUDA的时候就不要选择离线安装的CUDA了，否则每次都会安装不同的显卡驱动，这不太好，我们直接安装一个最新版的显卡驱动，然后在线安装不同版本的CUDA即可。
总结：CUDA和显卡驱动是没有一一对应的。

（2）cuDNN是一个SDK，是一个专门用于神经网络的加速包，注意，它跟我们的CUDA没有一一对应的关系，即每一个版本的CUDA可能有好几个版本的cuDNN与之对应，但一般有一个最新版本的cuDNN版本与CUDA对应更好。

总结：cuDNN与CUDA没有一一对应的关系

（3）CUDA 工具包附带的 CUPTI。

CUPTI，即CUDA Profiling Tools Interface (CUPTI)。在CUDA分析工具接口（CUPTI）能够分析和跟踪靶向CUDA应用程序的工具的创建。CUPTI提供以下API：

Activity API，
Callback API，
事件API，
Metric API，和
Profiler API。
使用这些API，您可以开发分析工具，深入了解CUDA应用程序的CPU和GPU行为。CUPTI作为CUDA支持的所有平台上的动态库提供。请参阅CUPTI文档。

一、tensorflow各个版本需要的CUDA版本以及Cudnn的对应关系

1.1 对应表格

相应的网址为：

https://www.tensorflow.org/install/source#common_installation_problems

https://www.tensorflow.org/install/source_windows

现在NVIDIA的显卡驱动程序已经更新到 10.1版本，最新的支持CUDA 10.1版本的cuDNN为7.5.0

1.2 CUDA的命名规则

下面以几个例子来说

（1）CUDA 9.2

CUDA 9.2.148

（2）CUDA 10.0

CUDA 10.0.130.411.31（后面的411.31对应更具体的版本号）

（3）CUDA 10.1

CUDA 10.1.105.418.96（后面的418.96对应更具体的版本号）

更多详细的请参考如下官网：

https://developer.nvidia.com/cuda-toolkit-archive

1.3 如何查看自己所安装的CUDA的版本：

（1）直接在NVIDIA的控制面板里面查看NVCUDA.DLL的版本。

注意：这里网上有很多说法是错误的，这个版本并不能绝对说明自己所安装的CUDA工具包一定这个版本

（2）通过命令查看：nvcc -V 或者是nvcc --version都可以，但前提是添加了环境变量

（3）直接通过文件查看，这里分为Linux和windows两种情况

在windows平台下，可以直接进入CUDA的安装目录，比如我的是：

C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v9.2 里面有一个version.txt的文本文件，直接打开即可，也可以使用命令，即

首先进入到安装目录，然后执行：type version.txt 即可查看

在Linux平台下：

同windows类似，进入到安装目录，然后执行 cat version.txt 命令

1.4 如何查看自己的cuDNN的版本

因为cuDNN本质上就是一个C语言的H头文件，

（1）在windows平台下：

直接进入安装目录：C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v9.2\include 之下，然后找到

cudnn.h 的头文件，直接到开查看，在最开始的部分会有如下定义：

#define CUDNN_MAJOR 7
#define CUDNN_MINOR 5
#define CUDNN_PATCHLEVEL 0
 
#define CUDNN_VERSION (CUDNN_MAJOR * 1000 + CUDNN_MINOR * 100 + CUDNN_PATCHLEVEL)

即7500，也就是cudnn的版本为7.5.0版本；

（2）在Linux下当然也可以直接查看，但是通过命令更简单，进入到安装目录，执行如下命令：

cat /usr/local/cuda/include/cudnn.h | grep CUDNN_MAJOR -A 2 即可查询

即5005，即5.0.5版本的cudnn。

二、CUDA与相对应的Cudnn对应关系

https://developer.nvidia.com/rdp/cudnn-archive?spm=a2c6h.12873639.0.0.6ae46238Zi95ut

三、NVIDIA显卡以及对应的显卡驱动的对应关系

由于NVIDIA存在多个系列的显卡类型，把这里仅仅显示出GeForce系列的显卡以及各个显卡的计算能力（compute capability），详情可以参考官网链接：

https://developer.nvidia.com/cuda-gpus

（1）GeForce Desktop Products

GPU Compute Capability
NVIDIA TITAN RTX 7.5
Geforce RTX 2080 Ti 7.5
Geforce RTX 2080 7.5
Geforce RTX 2070 7.5