利用GPU训练时的常见错误

1.CUDA_VIDIBLE_DEVICES=4,5 python3 main.py   我想在集群条件下利用4,5号GPU，由于模型较小，并不清楚是都可以指定4,5号GPU（内存占用情况看不出来。。。后续会找找其他验证办法），报了如下几个错误：

all tensors must be on devices[0]：

CUDNN_STATUS_INTERNAL_ERROR：目前找到了两个解决办法，一个是删除缓存rm -rf ~/.nv，一个是指定相对路径（不能是绝对路径）

CUDNN_STATUS_MAPPING_ERROR提示报错处为output = model(input)，可能原因为只有input经过了.cuda()处理，～～所以，快去看看你的model是不是也在GPU上(model = model.cuda()操作)

2.Variable没有.format()属性，解决办法：   Variable.data.format()或者Variable.__format()__