利用多个空闲GPU,提高模型训练推理速度
import torch
from gpuinfo import GPUInfo
# 查询空闲GPU
gpu_ids = GPUInfo.check_empty()
# 设置模型初始化设备
device = torch.device(f"cuda:{
str(gpu_ids[0
利用多个空闲GPU,提高模型训练推理速度
import torch
from gpuinfo import GPUInfo
# 查询空闲GPU
gpu_ids = GPUInfo.check_empty()
# 设置模型初始化设备
device = torch.device(f"cuda:{
str(gpu_ids[0