通过设置CUDA_VISIBLE_DEVICES环境变量来指定使用哪些GPU设备

指定单个GPU设备：

CUDA_VISIBLE_DEVICES=0

os.environ["CUDA_VISIBLE_DEVICES"] = "0"

指定多个GPU设备：

CUDA_VISIBLE_DEVICES=0,1,2

指定一个范围的GPU设备：

CUDA_VISIBLE_DEVICES=0-2

在设置了CUDA_VISIBLE_DEVICES环境变量后，只有被指定的GPU设备会被程序所使用，其他未被指定的GPU设备将不可见。

注意：这种方式只对使用CUDA进行加速的程序有效，对于仅使用CPU的程序无效。
要取消CUDA_VISIBLE_DEVICES

export CUDA_VISIBLE_DEVICES=""

在python中设置

import os
os.environ["CUDA_VISIBLE_DEVICES"] = ""