使用GPU进行深度学习环境的搭建

一、前言

windows10 版本安装 CUDA ，首先需要下载两个安装包

• CUDA toolkit（toolkit就是指工具包）
• cuDNN

注：cuDNN 是用于配置深度学习使用

二、准备工作

要使用GPU加速，首先就要去安装CUDA和cuDNN。 首先 要看一下你的电脑的显卡对应的是哪个版本的CUDA，千万不要下错了，不然运行不了的。 查看方法很多，网上都很容易搜得到，这里介绍其中一种： 在终端输入

nvidia-smi

就可以查看自己的显卡对应哪个版本。我电脑的是GTX 1650，对应的是CUDA 11.6

（1）在图片的第一行显示的是GPU显卡的计算能力及CUDA版本信息； （2）在图片的中间显示的是GPU占用情况，即845MiB/4096MiB和后面显示的3%；

三、开始下载

（1）找好对应的版本后，就去下载，可以使用以下链接找到 CUDA 工具包、GPU 计算 SDK、文档和开发人员驱动程序的早期版本。https://developer.nvidia.com/cuda-toolkit-archive

 

 进去后选择相应的版本和电脑信息。这里选择本地安装，也就是将安装包下下来，在线安装容易受网络影响。这个网址没有被墙，可以正常访问，下载速度也是可以的。

 一般是驱动版本决定了能用的CUDA版本的上限，比如新版的显卡驱动可以支持老的CUDA runtime。但是老的显卡可能无法更新到最新的显卡驱动，比如Fermi显卡只能装到391驱动，因此只能用到CUDA9.1。

（2）下载CUDA的同时，来看一下cuDNN吧。不过要注意的是，我们需要注册一个账号，才可以进入到下载界面。大家可以放心注册的。 这个也要注意版本的对应。每个版本的cuDNN后面都会写明其对应的CUDA版本，选择相应的版本下载就好。 给出网址：

https://developer.nvidia.com/rdp/cudnn-download 

 四、 CUDA 安装与配置过程

启动exe文件，会让你选择一个目录地址，这个只是文件的解压目录 ，并不是安装的目录，在安装完成之后会被自动删除 ，这里根据自己的情况选一下就好了。（推荐默认路径）

选择自定义安装的方法。然后勾选，不要选Visual Studio Integration，即使选了也不能成功安装。

 

点击下一步，就会选择安装路径，建议安在C盘。这里最好记住这里的三个路径，后面会用得到。然后点击下一步，让它安装就好了。

 这里已经自动配好了环境变量

 安装完成之后，就 安装cuDNN ，这个很简单，是插入式安装。把文件解压，然后把里面的三个文件夹里的文件（注意，是文件）复制到CUDA安装文件夹（就是上面的 CUDA Development 的那个安装路径下）的对应文件夹内。

cuDNN 解压缩后的文件

 

 CUDA 安装目录文件： 拷贝时看到，CUDA 的安装目录中，有和 cuDNN 解压缩后的同名文件夹，这里注意，不需要担心，直接复制即可。cuDNN 解压缩后的同名文件夹中的配置文件会添加到 CUDA安装目录中的同名文件夹中。

 到这里，就安装完了，可以 测试 一下是否安装成功。

进入到上面的安装文件夹下的 extra/demo_suit 文件夹(如：C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.6\extras\demo_suite）下，然后在地址栏输入 cmd，打开命名提示行。运行 bandwidthTest.exe 和 deviceQuery.exe ，结果如下，得到两个 PASS，就基本是安装成功了。

5、可能出现的问题

虽然安装好了两个文件，但是当我训练的时候显示用的还是cpu，

如果你遇到这个问题，不用担心你的步骤是不是错了，因为你被 conda 镜像安装给坑了。 你以为下载的是GPU版本，其实镜像下载的是cpu版本你必须手动去官网用pip下载安装 。

import torch
print(torch.cuda.is_available())
print(torch.__version__)

 

 安装完毕：

 再来运行下：

import torch
print(torch.cuda.is_available())
print(torch.__version__)
#using cuda:0 device.
#True
#1.11.0+cu113