序:测试环境
之前一直都用的是NVIDIA的Jetson系列或者在Ubuntu服务器上做开发,突然需要在notebook上做下测试,发现无法调用gpu,解决方案:
从零搭建 AI 环境,本文主要涉及硬件相关的环境,推荐采用本文使用的环境搭建,测试环境如下:
- 系统:Windows10
- 显卡型号:NVIDIA RTX 2060
- 显卡驱动:31.0.15.3758
- CUDA版本:12.1.1 CUDA下载链接
- CUDnn:8.9.6.50_cuda12 CUDnn下载链接
显卡驱动/CUDA/CUDnn关系
- NVIDIA驱动:硬件显卡驱动,旨在告知系统怎样使用这张显卡
- CUDA:NVIDIA开发的高性能计算库,主要用于3D渲染和深度学习等
- NVIDIA针对深度学习而开发的,在CUDA之上的深度学习工具库
所以,如果你想加速深度学习的训练和推理速度,那么 CUDA 与 CUDNN 是必须的。
第一步:检查NVIDIA 驱动安装
1.1 检查NVIDIA驱动
依次点击 “控制面板”—“设备管理器”,找到“显示适配器”展开:
如上图,检查自己的GPU是否为 NVIDIA 显卡,如果是再接着进行以下的工作:我的显卡为NVIDIA GeForce RTX 2060,双击,切换到驱动程序,查看安装的驱动,如下图所示:
1.2 NVIDI 驱动安装
如果你有NVIDIA显卡,但是没有安装驱动,那么就需要去 Nvidia 驱动安装 来安装驱动,安装的过程跟普通程序安装差不多。进入该网站后选择适合自己显卡的驱动,然后点击搜索即可,如下图所示:
下载好后就按照安装提示安装即可。
1.3 NVIDIA 驱动安装验证
Win+R进入“运行”,输入“cmd”进入命令行终端,在终端种输入“nvidia-smi”,如果有如下图所示的结果,就说明NVIDIA驱动安装成功了:
如上图所示,显卡驱动版本为537.58,最高支持的CUDA版本为12.2。
第二步:安装CUDA
2.1下载CUDA
安装好NVIDIA驱动后先到Pytorch官网看下torch支持到哪一版本的cuda,以免安装完发现torch还未支持到的尴尬情况发生。
如图所示,最新的稳定版本torch支持CUDA12.1,因此选择去网站CUDA下载CUDA12.1版本:
下载完成后按提示一步步安装即可。
2.2 配置环境变量
- 在Windows搜索”编辑系统环境变量“,如下图所示:
- 进入后点击“环境变量”
- 点击用户变量中的 “Path”,点击“编辑”,点击“新建”:
添加 CUDA 的环境变量,去 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA
下查看版本号,如我的的是 v12.1
,那么我的三个环境路径就是:
2.3CUDA安装验证
Win+R进入“运行”,输入“cmd”进入命令行终端,在终端种输入“nvcc --version”或“nvcc -V”,如果有如下图所示的结果,就说明CUDA安装成功了:
第三步:安装CUDnn
- 前往 CUDnn 下载 来下载 cudnn库,这里我们选择:Download cuDNN v8.9.6 (November 1st, 2023), for CUDA 12.x
- 对cudnn 进行解压,最后将解压后的 bin,include,lib文件夹下的内容拷贝到 cuda 对应的 bin,include,lib 下即可。
第四步:安装torch
4.1 pip安装torch
根据PyTorch官网的安装提示,选择合适版本后会生成安装语句,拷贝安装语句到Pycharm-Terminal中,即可一键安装。
4.2 验证torch是否支持gpu
在终端中验证:输入“python”进入环境,导入torch模块
在Pycharm中验证:
import torch
def gpu_is_available():
print('\nGPU details:')
print(f' gpu_is_available : ', torch.cuda.is_available())
print(f' cuda_device_count : ', torch.cuda.device_count())
print(f' cuda_device_name : ', torch.cuda.get_device_name())
print(f' cuda_device_capability: ', torch.cuda.get_device_capability(0))
gpu_is_available()
- 效果如下:
- 至此,我们就完成了 AI 相关硬件环境的安装。