使用GPU

一、

nvidia-smi //显示此刻状态
nvidia-smi -l //每隔几秒动态显示GPU状态（小写L)  
watch -n 10 nvidia-smi //每隔10秒动态显示GPU状态

二、
PyTorch默认使用从0开始的GPU，如果GPU0正在运行程序，需要指定其他GPU。

1.直接终端中设定：

CUDA_VISIBLE_DEVICES=1 python script.py

2.python代码中设定：

import os
os.environ["CUDA_VISIBLE_DEVICES"] = "0,1,2"

3.使用函数 set_device

import torch
torch.cuda.set_device(id)

不过官方建议使用CUDA_VISIBLE_DEVICES，不建议使用 set_device 函数。