pytorch gpu运行安装重点（CUDA12.3）

一、安装Visual Studio

visual studio官网

选择community版本的，2017/2019/2022等版本都可以（安装过程不演示了）

二、安装CUDA Toolkit

1.所有工具，我都喜欢安装最新的，所以我选择先更新我的GeForce Game Ready，我用的win11系统，所以我搜索找到了Geforce Experience程序，在里面点了更新。（如果检查完更新，提示你拥有最新的驱动程序，就不用更新了）

2.查看cuda版本

打开NVDIA控制面板，点击系统信息，查看到我现在的版本是CUDA 12.3

3.下载CUDA Toolkit

CUDA Toolkit官网

找到 CUDA Toolkit对应版本即可，例如：我的CUDA是12.3版本，我可以选择CUDA Toolkit 12.3.x中的任意一个版本。（选择完软件版本点击后，根据自己的系统选择对应系统版本即可，例如：我win11版本的选择）

☆安装时候最好自定义安装，能装的都装了吧，不要选择精简安装，默认安装路径即可。

☆默认安装在"C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA"

三、下载cuDNN

cuDNN官网

需要注册下载对应版本，英伟达有账号的直接登录即可。

"C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.3"

下载完毕后解压，把三个文件夹复制到到刚刚CUDA Toolkit安装的路径中即可，例如："C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.3"（放在图片中显示的文件夹内即可）

之后，确保这四个环境变量在即可，如果缺哪些，自行添加，记得根据自己实际路径填，我这里是v12.3版本的路径

四、安装pytorch GPU

pytorch官网最新版

目前官网最新的稳定版本2.1.2，官网上写的支持CUDA12.1，我是CUDA12.3亲测也可以兼容使用该版本。

pytorch历史版本

如果不是CUDA12.3、CUDA12.2、CUDA12.1版本的，选择对应版本下载即可。CUDA其他版本的，兼容性自行测试。

五、测试

1. 确认CUDA可用性

import torch
print("Is CUDA available:", torch.cuda.is_available())
print("CUDA version:", torch.version.cuda)

#打印结果（虽然我CUDA12.3，但是pytorch2.1.2版本只支持12.1，所以出现下面结果是正常的。出现True就代表没问题）

Is CUDA available: True
CUDA version: 12.1

2.检查TorchVision版本（☆非常重要）

import torchvision
print("TorchVision version:", torchvision.__version__)
 

#打印结果

TorchVision version: 0.16.2+cu121

☆如果出现0.16.2+cu121，类似这种，就没问题，代表你pytorch可以使用gpu加速。

☆如果出现TorchVision version: 0.16.2+cpu，类似这种带"cpu"的，就代表安装的 TorchVision 是为 CPU 而不是 GPU 优化的版本。虽然可能你用GPU进行一些简单的计算没问题，但是这可能导致在使用 CUDA 运行训练代码时遇到问题，因为 TorchVision 中的某些操作（如 NMS）需要 GPU 版本来支持 CUDA。这时候可以指定对应gpu版本，例如torch 2.1.2可以使用torchvision 0.16.2版本、CUDA12.1版本加速，

pip代码如下：

pip install torchvision==0.16.2+cu121 -f https://download.pytorch.org/whl/torch_stable.html

conda代码如下：

conda install torchvision -c pytorch

3.简化NMS测试

from torchvision.ops import nms
import torch
boxes = torch.rand(4, 4, device='cuda')  
scores = torch.rand(4, device='cuda')  
nms_indices = nms(boxes, scores, 0.5)

print("NMS indices:", nms_indices)

#打印结果（输出类似如下结果，即为测试通过）

NMS indices: tensor([0, 1, 3, 2], device='cuda:0')

4.使用CPU测试

import torch
print("Is CPU available:",torch.cpu.is_available())

#打印结果（出现True就测试通过）

☆☆☆完结撒花☆☆☆