使用pytorch查看设备显卡详细信息

1、设置可用显卡

import os
os.environ["CUDA_VISIBLE_DEVICES"] = '0,1,2,3'

2、查看当前设备环境可用显卡数量

ng = torch.cuda.device_count()
print("Devices:%d" %ng)

3、查看可用显卡的具体信息(型号、算力,显存以及线程数)

import torch
infos = [torch.cuda.get_device_properties(i) for i in range(ng)]

 

  • 7
    点赞
  • 11
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
PyTorch使用多张显卡可以通过数据并行的方式实现模型的训练和推理加速。下面是使用多张显卡的一般步骤: 1. 导入必要的库: ```python import torch import torch.nn as nn import torch.optim as optim import torch.nn.functional as F from torch.utils.data import DataLoader ``` 2. 定义模型: ```python class MyModel(nn.Module): def __init__(self): super(MyModel, self).__init__() # 定义你的模型结构 def forward(self, x): # 定义前向传播过程 return x ``` 3. 初始化多个GPU设备: ```python device = torch.device("cuda" if torch.cuda.is_available() else "cpu") device_ids = [0, 1, 2] # 假设有3个可用的GPU设备 ``` 4. 将模型放到多个GPU上: ```python model = MyModel() model = nn.DataParallel(model, device_ids=device_ids) model.to(device) ``` 5. 定义损失函数和优化器: ```python criterion = nn.CrossEntropyLoss() optimizer = optim.Adam(model.parameters(), lr=0.001) ``` 6. 加载数据并创建数据加载器: ```python train_dataset = ... train_loader = DataLoader(train_dataset, batch_size=64, shuffle=True) ``` 7. 训练模型: ```python model.train() for epoch in range(num_epochs): for data, labels in train_loader: data = data.to(device) labels = labels.to(device) optimizer.zero_grad() outputs = model(data) loss = criterion(outputs, labels) loss.backward() optimizer.step() ``` 8. 在推理阶段,将输入数据也放到GPU上: ```python model.eval() with torch.no_grad(): inputs = inputs.to(device) outputs = model(inputs) ``` 这样就可以在多张显卡上并行地训练和推理模型了。注意,当使用`nn.DataParallel`时,模型的`forward`函数会自动在多个GPU上运行,而不需要我们手动指定。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值