PyTorch模型部署实战：GPU版本配置指南

1.环境

win10

pycharm

python311

pytorch2.01

rtx4060

cuda12.1

2.创建虚拟环境

2.1 虚拟环境好处

可以避免不同项目，版本不兼容问题

2.2 配置

3.安装pytorch-gpu版本

pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118

4.安装gpu驱动

https://www.nvidia.cn/Download/index.aspx?lang=cn

下一步下一步即可

5.安装cuda

https://developer.nvidia.com/cuda-toolkit-archive?spm=a2c6h.12873639.article-detail.7.479d182d0KJUdo

下一步下一步即可

6.安装cudnn

https://developer.nvidia.com/rdp/cudnn-download

解压后将下面这些文件，拷贝到cuda安装目录 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.1

7.检验gpu是否可用

import torch

print(torch.cuda.is_available())
print(torch.__version__)

8.代码测试

from __future__ import print_function
import torch

x = torch.empty(5, 3)
print(x)

x2 = torch.rand(5, 3)
print(x2)

x3 = torch.zeros(5, 3, dtype=torch.long)
print(x3)