colab 如何释放gpu显存？

最新推荐文章于 2025-03-26 13:50:10 发布

子燕若水

最新推荐文章于 2025-03-26 13:50:10 发布

阅读量2.5k

点赞数 2

分类专栏： cuda&深度学习环境系统相关开发文章标签： pytorch 深度学习 python

本文链接：https://blog.csdn.net/u010087338/article/details/128714475

版权

开发同时被 3 个专栏收录

268 篇文章

订阅专栏

系统相关

128 篇文章

订阅专栏

cuda&深度学习环境

87 篇文章

订阅专栏

文章讨论了如何释放Python中的内存，特别是当使用PyTorch时如何清空GPU缓存。通过将对象设为None并调用gc.collect()来管理Python内存，同时使用torch.cuda.empty_cache()处理PyTorch的GPU内存。在Jupyternotebook环境下，由于异常回溯可能导致内存泄漏，有时可能需要重启内核来彻底清理GPU内存。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

obj = None

import gc
gc.collect() # Python thing
# torch.cuda.empty_cache() # PyTorch thing
with torch.no_grad():
    torch.cuda.empty_cache()

参考资料：

如果您只是将使用大量内存的对象设置为None这样：

obj = None
之后你打电话

gc.collect() # Python thing
这是您可以避免重新启动笔记本电脑的方法。

如果您仍然希望从 Nvidea smi 或 nvtop 中清楚地看到它，您可以运行：

torch.cuda.empty_cache() # PyTorch thing
清空 PyTorch 缓存。

到目前为止，答案对于 Cuda 方面是正确的，但在 ipython 方面也存在问题。

当您在笔记本环境中遇到错误时，ipython shell 会存储异常的回溯，因此您可以使用访问错误状态%debug。问题是这需要将导致错误的所有变量保存在内存中，并且它们不会被诸如gc.collect(). 基本上你所有的变量都会卡住并且内存泄漏。

通常，引发新异常会释放旧异常的状态。所以尝试类似的东西1/0可能会有所帮助。然而，使用 Cuda 变量时事情会变得很奇怪，有时不重启内核就无法清除 GPU 内存。