指定使用的设备 CUDA_VISIBLE_DEVICES=1,2 python3 $REPO_PATH/run/test_bert_mrc.py \ 默认从0开始 device = torch.device("cuda") module级别上的数据并行使用 model = torch.nn.DataParallel(model, device_ids=range(config.n_gpu)) 原文1 原文2