目录
查询CUDA toolkit与GPU Driver 的版本对应关系
相关概念
- GPU:独立显卡,是一个硬件。需要安装显卡驱动(GPU Driver)才可使用;
- CUDA:并行计算框架。用户可通过CUDA的API,调度GPU加速计算。包含CUDA驱动(CUDA Driver)和CUDA运行时库(CUDA Runtime)两部分。二者版本需满足如下关系:CUDA Runtime Version
CUDA Driver Version;
- cudnn:神经网络训练和推理的加速库,用户可通过cudnn的API搭建神经网络并进行推理,再通过cuda调度GPU进行计算(也可以不使用cudnn,直接使用cuda搭建神经网络,但是运算效率会低很多);
如何安装CUDA
- GPU Driver安装包:包含GPU Driver、CUDA Driver;
- CUDA toolkit安装包:包含GPU Driver、CUDA Driver、CUDA Runtime、CUDA-C/C++编译器、一些科学库等CUDA开发工具。
- 如果只是进行深度学习的模型训练、推理,那么安装GPU Driver安装包即可。如果需要在Visual Studio等平台上进行CUDA编程,则需要安装CUDA toolkit安装包。
方法一:安装GPU Driver
下载并安装GPU Driver
官网下载NVIDIA GeForce 驱动程序 - N 卡驱动 | NVIDIA,输入电脑配置,搜索并下载驱动程序
按照默认设置安装完成后,重启电脑。
查看CUDA Driver Version
按照如下方法,可查看CUDA Driver Version,说明安装成功。
方法1:win+r,输入cmd,打开命令窗口,输入:nvidia-smi。如下图所示:
Driver Version(GPU Driver Version):552.44
CUDA Version(CUDA Driver Version):12.4
方法2:打开NVIDIA控制面板—帮助—系统信息
如下图所示:GPU Driver Version:552.44
CUDA Driver Version:12.4
更新GPU Driver
卸载原始驱动程序(卸载后重建电脑,否则无法安装新驱动程序)
方法1:打开电脑的设置—应用,卸载原始驱动程序。
方法2:打开设备管理器,选中显卡,右键卸载设备。
下载并安装新驱动程序。
方法二:安装CUDA toolkit
下载并安装CUDA toolkit
CUDA Toolkit Archive | NVIDIA Developer
查看CUDA Driver Version
同上
查看CUDA编程环境
打开Visual Studio,新建项目。如下图所示,已经包含CUDA。
如何安装cuDNN
下载
官网下载地址。需要注意的是:根据已经安装的CUDA Driver Version选择cuDNN安装包
安装
cuDNN安装包就是一个压缩包,解压后如下图所示:
将以上三个文件夹里的内容分别拷贝到CUDA安装目录对应的文件夹中
验证是否安装成功
网上大部分人按照如下方式验证。本人亲测,不安装cuDNN,如下方式也能验证通过。所以如下方式不能验证cudnn是否安装成功,暂时我也不知道如何验证。
找到下图中的两个exe文件。
先打开cmd命令窗口,然后将这两个文件分别拖动到窗口内执行,弹出下列对话框则说明安装成功 。(如果在文件夹内,直接双击运行,则弹框会一闪而过)
查询CUDA toolkit与GPU Driver 的版本对应关系
CUDA 12.4 Update 1 Release Notes
查询GPU算力
CUDA GPUs - Compute Capability | NVIDIA Developer