深度学习：Windows环境搭建，NVIDIA驱动，CUDA，CUDnn，Pytorch

序：测试环境

之前一直都用的是NVIDIA的Jetson系列或者在Ubuntu服务器上做开发，突然需要在notebook上做下测试，发现无法调用gpu，解决方案：

从零搭建 AI 环境，本文主要涉及硬件相关的环境，推荐采用本文使用的环境搭建，测试环境如下：

• 系统：Windows10
• 显卡型号：NVIDIA RTX 2060
• 显卡驱动：31.0.15.3758
• CUDA版本：12.1.1  CUDA下载链接
• CUDnn：8.9.6.50_cuda12  CUDnn下载链接

显卡驱动/CUDA/CUDnn关系

• NVIDIA驱动：硬件显卡驱动，旨在告知系统怎样使用这张显卡
• CUDA：NVIDIA开发的高性能计算库，主要用于3D渲染和深度学习等
• NVIDIA针对深度学习而开发的，在CUDA之上的深度学习工具库

所以，如果你想加速深度学习的训练和推理速度，那么 CUDA 与 CUDNN 是必须的。

第一步：检查NVIDIA 驱动安装

        1.1 检查NVIDIA驱动

依次点击 “控制面板”—“设备管理器”，找到“显示适配器”展开：

如上图，检查自己的GPU是否为 NVIDIA 显卡，如果是再接着进行以下的工作：我的显卡为NVIDIA GeForce RTX 2060，双击，切换到驱动程序，查看安装的驱动，如下图所示：

        1.2 NVIDI 驱动安装

如果你有NVIDIA显卡，但是没有安装驱动，那么就需要去 Nvidia 驱动安装 来安装驱动，安装的过程跟普通程序安装差不多。进入该网站后选择适合自己显卡的驱动，然后点击搜索即可，如下图所示：

下载好后就按照安装提示安装即可。

        1.3 NVIDIA 驱动安装验证

Win+R进入“运行”，输入“cmd”进入命令行终端，在终端种输入“nvidia-smi”，如果有如下图所示的结果，就说明NVIDIA驱动安装成功了：

如上图所示，显卡驱动版本为537.58，最高支持的CUDA版本为12.2。

第二步：安装CUDA

        2.1下载CUDA

安装好NVIDIA驱动后先到Pytorch官网看下torch支持到哪一版本的cuda，以免安装完发现torch还未支持到的尴尬情况发生。

如图所示，最新的稳定版本torch支持CUDA12.1，因此选择去网站CUDA下载CUDA12.1版本：

下载完成后按提示一步步安装即可。

        2.2 配置环境变量

• 在Windows搜索”编辑系统环境变量“，如下图所示：

• 进入后点击“环境变量”

• 点击用户变量中的 “Path”，点击“编辑”，点击“新建”：

添加 CUDA 的环境变量，去 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA 下查看版本号，如我的的是 v12.1，那么我的三个环境路径就是：

        2.3CUDA安装验证

Win+R进入“运行”，输入“cmd”进入命令行终端，在终端种输入“nvcc --version”或“nvcc -V”，如果有如下图所示的结果，就说明CUDA安装成功了：

第三步：安装CUDnn

• 前往 CUDnn 下载 来下载 cudnn库，这里我们选择：Download cuDNN v8.9.6 (November 1st, 2023), for CUDA 12.x
• 对cudnn 进行解压，最后将解压后的 bin，include，lib文件夹下的内容拷贝到 cuda 对应的 bin，include，lib 下即可。

第四步：安装torch

        4.1 pip安装torch

根据PyTorch官网的安装提示，选择合适版本后会生成安装语句，拷贝安装语句到Pycharm-Terminal中，即可一键安装。 

        4.2 验证torch是否支持gpu

在终端中验证：输入“python”进入环境，导入torch模块

在Pycharm中验证：

import torch
 
def gpu_is_available():
    print('\nGPU details:')
    print(f'    gpu_is_available      : ', torch.cuda.is_available())
    print(f'    cuda_device_count     : ', torch.cuda.device_count())
    print(f'    cuda_device_name      : ', torch.cuda.get_device_name())
    print(f'    cuda_device_capability: ', torch.cuda.get_device_capability(0))
 
gpu_is_available()

• 效果如下：

• 至此，我们就完成了 AI 相关硬件环境的安装。