本次实验环境如下
操作系统:win10
显卡型号:NVIDIA GeForce RTX 3050 Laptop GPU
CUDA简介
CUDA Toolkit 是由 NVIDIA 开发的一个用于 GPU 计算的软件开发工具包。它提供了一套用于并行计算的编程模型和工具,使开发人员能够利用 NVIDIA 的 GPU 加速计算能力。CUDA Toolkit 支持使用 CUDA 编程模型的 C/C++ 编程语言进行开发,并提供了一系列的库和工具,用于优化和调试 GPU 加速应用程序。
CUDA Toolkit 提供了以下主要功能和组件:
- CUDA 编译器:将 CUDA C/C++ 代码编译为可以在 NVIDIA GPU 上执行的机器代码。
- CUDA Runtime API:用于在主机(CPU)和设备(GPU)之间进行数据传输和执行并行计算的 API。
- CUDA 核心库:包括各种数学、信号处理和图像处理库,用于加速特定类别的计算任务。
- CUDA 工具:包括性能分析器、调试器和代码优化工具,用于帮助开发者分析和优化 GPU 加速应用程序的性能。
- CUDA 驱动程序:用于管理和操作 NVIDIA GPU 设备。
cuDNN(CUDA Deep Neural Network library)是 NVIDIA 开发的针对深度神经网络的加速库。cuDNN 提供了一系列用于深度学习算法的高性能基本操作和优化算法的实现,例如卷积、池化、归一化、循环神经网络等。它的目标是提供高性能的深度学习加速,使得在 NVIDIA GPU 上运行深度神经网络的训练和推理过程更加高效。
总的来说,CUDA Toolkit 是用于 GPU 计算的开发工具包,而 cuDNN 是用于加速深度学习算法的库。两者可以结合使用,以充分利用 NVIDIA GPU 的计算能力,并提高深度学习任务的性能。
安装pytorch
这里先安装pytorch的原因是,要根据pytorch选择对应支持的CUDA版本。
pytorch安装
如下图所示,选择对应的版本,复制指令到命令行执行即可
安装CUDA Toolkit
这里需要安装两个东西,一个是cudaToolkit ,另一是cuDNN
下载地址cuda下载
注意选择历史版本,不然会默认下载最新版本
如下图所示,根据pytorch支持的版本去选择下载
下载完毕安装即可
安装cuDNN
cuDNN下载
注意没有注册时需要注册登录的,否则无法下载。
下载完毕cuDNN后解压得到三个文件夹,如下图所示
将这三个文件夹拷贝到cuda Toolkit安装目录下
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.1
CUDA配置环境
右键电脑属性进入高级系统设置-环境变量
如下图所示可以看到,CUDA Toolkit安装好后就自动配置好的环境
双击path新建4个环境配置
这四个路径就在cuda安装目录下
安装成功测试
打开控制台,依次输入以下指令,最终返回True则表示安装成功。
python
import torch
torch.cuda.is_available()
或者,直接通过指令查询
nvcc -V