两行代码搞定Pytorch多GPU深度学习(DataParallel)
当单张显卡无法满足深度学习的训练要求时,可以尝试增加显卡数量。比如当我们想增加batch size,但单张显卡的显存不足时,就需要增加显卡。在Pytorch中调用多张显卡并没有多么麻烦,只需要修改以下部分:
允许显示哪些显卡,在代码开头加入:import os
os.environ['CUDA_VISIBLE_DEVICES'] = "0, 1, 2, 3"
# 调用四张显卡,显卡编号分别为为0...
原创
2020-03-29 14:35:25 ·
1116 阅读 ·
0 评论