GPU显存未占满但是提示torch.cuda.OutOfMemoryError: CUDA out of memory.

在推理时发现GPU显存还有很多报错out of memory，在网上找了很多办法，什么调小batchsize，设置

os.environ['PYTORCH_CUDA_ALLOC_CONF'] = 'max_split_size_mb:32'

发现均无效果。且batchsize设置为1也仍然内存溢出。测试的时候送进去的每张图片大小都是一样，但是当送进去50张的时候不会出现内存报错，送进去1000张的时候会。发现是虚拟内存的原因，怀疑是数据读入时，物理内存太少了导致GPU的显存分配出问题了。将虚拟内存设置大点完美解决报错。