学习笔记40-Ubuntu下跑Aplaca报错：torch.cuda.0utofMemoryError: CUDA out of memory.解决办法（查看CUDA占用情况&清除GPU缓存）

李卓璐

已于 2024-04-08 09:11:59 修改

阅读量6.1k

点赞数 6

分类专栏：算法实战文章标签： ubuntu 缓存 pytorch

于 2023-04-21 08:01:58 首次发布

本文链接：https://blog.csdn.net/lzl2020lzl/article/details/130270895

版权

算法实战专栏收录该内容

64 篇文章 79 订阅 ¥9.90 ¥99.00

订阅专栏

超级会员免费看

当在Ubuntu环境下运行PyTorch时遇到CUDA内存不足的问题，错误提示torch.cuda.0utofMemoryError，实际并非内存容量不够，而是GPU缓存爆满。通过检查发现，程序只占用了极少量的内存，而某个进程（如aplaca）占用了大量GPU显存。解决方法是终止该进程，然后重新执行程序，观察GPU使用率从1%升至95%，问题得到解决。

摘要由CSDN通过智能技术生成

缓存不够！！！！并非内存容量不够

错误提示： torch.cuda.0utofMemoryError: CUDA out of memory.Tried to allocate 2.00 MiB (PU 0; 23.69 GiB total capacity; 237 BiB already allocated; 18.38 MiB fre; 2.50 GiB reserved in total by PyTorch) If reserved memory is >> allocated memory try setting max_split_size_mb to avoid fragmentation.See documentation for Memory Management and PYTORCH_CUDA_ALLOC_CONF
在这里插入图片描述
通过查资料，说内存不够用，换个好显卡，可但是通过运行指示nvidia-smi发现在执行程序时仅使用极少的内存（图片-1%），因此不是内存不足，考虑可能是缓存爆了！