本地cuda的部署方式

1首先在终端利用命令ndivia-smi查看自己的驱动版本和cuda version 查看是否匹配（或者有没有安装cuda）

查看是否匹配：知乎 - 安全中心

安装cuda：知乎 - 安全中心

2搞定cuda之后，就要安装与cuda相对应的pytorch版本。查看自己自己的pytorch版本用print(torch.__version__) 查看gpu是否可用print(torch.cuda.is_available())

注意，安装前可以删除原来的pytorch版本 可以用命令pip uninstall torch torchvision torchaudio   

查询对应关系和安装相应的pytorch（有conda和wheel两种安装方式，可自行选择），下面是安装链接：

Previous PyTorch Versions | PyTorch

例如cuda11.6可安装

pip install torch==1.13.1+cu116 torchvision==0.14.1+cu116 torchaudio==0.13.1 --extra-index-url https://download.pytorch.org/whl/cu116

3在终端安装完成之后，执行命令print(torch.__version__) print(torch.cuda.is_available())会显示***+cu***  和True 表示安装成功

4可以用一段代码来测试一下

import torch

# 检查CUDA是否可用
if torch.cuda.is_available():
    print(f"CUDA is available. GPU: {torch.cuda.get_device_name(0)}")
    # 创建一个随机的Tensor
    x = torch.rand(5, 3)
    print("Random Tensor:", x)
    # 尝试将Tensor移动到GPU上
    y = x.cuda()
    print("Tensor on GPU:", y)
else:
    print("CUDA is not available. Please check your installation.")