Pytorch测试时GPU利用率低,CUDA out of memory
model很小,batchsize=1,
watch -n -1 nvidia-smi;
监视当前GPU使用情况,发现测试时GPU占用爆表,但是利用率只有1%,在测试时加入:
def test:
model.eval()
with torch.no_grad():
test code...
model.train()
解决,可以正常运行了。
watch -n -1 nvidia-smi;
监视当前GPU使用情况,发现测试时GPU占用爆表,但是利用率只有1%,在测试时加入:
def test:
model.eval()
with torch.no_grad():
test code...
model.train()
解决,可以正常运行了。