Pytorch 多GPU训练
PyTorch数据并行:nn.DataParallel 一主机多GPUDistributedParallel 多主机多GPUnet = torch.nn.DataParallel(model)默认所有存在的显卡都会被使用如果我们机子中有很多显卡(例如我们有5张显卡),但我们只想使用0、1、2号显卡net = torch.nn.DataParallel(model, device_ids=[0, 1, 2])...
原创
2020-05-31 10:51:09 ·
167 阅读 ·
0 评论