CUDA工具包为创建经 GPU 加速的高性能应用提供开发环境,其中包含多个 GPU 加速库、多种调试和优化工具、一个 C/C++ 编译器以及一个用于部署应用的运行环境库。本文主要介绍如何在Windows10系统上搭建CUDA运行环境,提供必需软件的下载途径以及基本配置,进行相关环境验证。
一、版本
CUDA使用版本取决于现有显卡的配置,win+R启动系统cmd并输入 nvidia-smi ,右上角出现的CUDA Version为当前显卡支持的最高CUDA版本
如果未出现上述类似信息,可以根据电脑上的显卡型号进行驱动更新后再试
【显卡驱动】
一般11.8和12.1为最常用的两个版本,对应的相关资源也最全,若后续有其他比如pytorch的安装需求,则需要综合考虑合适的版本
参考文章:CUDA + Python + Pytorch + Torchvision
二、下载
CUDA的安装需要下载工具包【CUDA toolkit】及专为深度学习使用的【cuDNN】,本文以CUDA 12.1.0版本为例进行
【CUDA toolkit】
下载路径:https://developer.nvidia.com/cuda-downloadshttps://developer.nvidia.com/cuda-downloads
进入下载页后,通过以下链接查找其他版本文件
【cuDNN】
下载路径:https://developer.nvidia.com/cudnnhttps://developer.nvidia.com/cudnn
选择Windows版本,其中Version选项对应两种安装程序,选择exe下载格式时,会以图形化安装程序的格式进行CUDA版本的适配。选择Tarball时,则需要继续指定适配的CUDA版本,下载zip压缩文件,并在后期手动进行文件替换。
三、安装
【CUDA toolkit】
双击【CUDA toolkit】下载的exe文件进行安装
临时解压路径,建议默认即可,也可以自定义。安装结束后,临时解压文件夹会自动删除;
第一次安装建议勾选【自定义】进行完整安装
后续如果不使用Visual Studio进行开发,建议取消【Visual Studio Integration】选项
【cuDNN】ZIP压缩文件
把下载的 cuDNN 解压缩,会得到下面的文件:
把三个文件夹拷贝到cuda的安装目录下,一般默认为【C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.1】
【cuDNN】exe执行文件
下载文件为exe执行文件,双击运行安装
与CUDA安装类似,需要指定一个临时解压缩路径
同样选择【自定义】进行定制化安装
根据已安装的CUDA版本选择对应组件,根据安装版本11.x或12.x进行选择安装
安装完成后,会自动增加资源到环境变量,无需后续操作,资源内容如下
添加【环境变量】
确保环境变量与【Path】路径下包含以下内容,具体路径信息与安装路径有关
CUDA_PATH C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.1
CUDA_PATH_V12_1 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.1
Path:
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.1\bin
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.1\\include
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.1\lib
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.1\libnvvp
四、验证
win+R启动系统cmd,输入 nvcc --version 即可查看版本号
使用CUDA内置的deviceQuery.exe 和 bandwidthTest.exe测试安装环境。首先win+R启动cmd,cd到安装目录下的 ...\v12.1\extras\demo_suite,然后执行`bandwidthTest.exe
执行deviceQuery.exe