bert——使用GPU运行模型

1.Windows用命令查看nvidia的GPU使用情况

cd C:\Program Files\NVIDIA Corporation\NVSMI
nvidia-smi

2.使用GPU

import torch
import os
 
#设置使用那块GPU “0”是GPU的id
os.environ["CUDA_VISIBLE_DEVICES"] = "0"//主要用的是这句，其他是校验
 
#查看GPU是否可用
cuda_available=torch.cuda.is_available()   
print('cuda_available:',cuda_available) 
 
#查看可用GPU数量
coun=torch.cuda.device_count()
print(coun)
 
#返回GPU名字 0 是返回GPU名字的ID
name=torch.cuda.get_device_name(0)
print(name)
#返回当前设备的ID
num=torch.cuda.current_device()
print(num)