weixin_44656243的博客

原创 GPU显存未占满但是提示torch.cuda.OutOfMemoryError: CUDA out of memory.

且batchsize设置为1也仍然内存溢出。测试的时候送进去的每张图片大小都是一样，但是当送进去50张的时候不会出现内存报错，送进去1000张的时候会。发现是虚拟内存的原因，怀疑是数据读入时，物理内存太少了导致GPU的显存分配出问题了。将虚拟内存设置大点完美解决报错。在推理时发现GPU显存还有很多报错out of memory，在网上找了很多办法，什么调小batchsize，设置。