PyTorch Device设置方法
读卡规则
当服务器有多个GPU时,设置CUDA_VISIBLE_DEVICES 环境变量可以改变CUDA程序所能使用的GPU设备。在默认情况下,标号为0的显卡为主卡,如主机中有4块显卡,那么每张显卡的默认标号为[0,1,2,3]。多卡设置规则如下:
Environment Variable Syntax | Results |
---|---|
CUDA_VISIBLE_DEVICES=1 | Only device 1 will be seen |
CUDA_VISIBLE_DEVICES=0,1 | Devices 0 and 1 will be visible |
CUDA_VISIBLE_DEVICES=“0,1” | Same as above, quotation marks are optiona |
CUDA_VISIBLE_DEVICES=0,2,3 | Devices 0, 2, 3 will be visible;device 1 is masked |
CUDA应用运行时,CUDA将遍历当前可见的设备,并从零开始为可见设备编号。第一种情况,卡1设置为主卡,但CUDA遍历时会设置为可见编号0。最后一种情况,设备0,2,3将显示为设备0,1,2。如果将字符串的顺序更改为“2,3,0”,则设备2,3,0将分别被设置为0,1,2。如果为CUDA_VISIBLE_DEVICES 设置了不存在的设备,所有实际设备将被隐藏,CUDA 应用将无法使用GPU设备;如果设备序列是存在和不存在设备的混合,那么不存在设备前的所有存在设备将被重新编号,不存在设备之后的所有设备将被屏蔽。当前可见的(重新编号后的)设备可使用CUDA 程序来查看。
举例:
import torch
print(torch.cuda.current_device())
运行:
CUDA_VISIBLE_DEVICES=1 python test.py
结果:
0
虽然指定使用设备为卡1,但CUDA会编号为0,因此显示的编号还是0。
设置GPU
临时设置
直接设置
export CUDA_VISIBLE_DEVICES=1
运行bash脚本时指定GPU
CUDA_VISIBLE_DEVICES=gpu_ids sh test.sh
在代码中指定GPU
import os
os.environ['CUDA_VISIBLE_DEVICES'] = gpu_ids
运行程序时指定GPU
CUDA_VISIBLE_DEVICES=gpu_ids python test.py
注意:这种设置方法一定要在第一次使用 cuda 之前进行设置
永久设置
管理员身份运行
~/.bashrc
在最后加上
export CUDA_VISIBLE_DEVICES=gpu_ids
然后
source ~/.bashrc