RuntimeError: CUDA out of memory.

最新推荐文章于 2024-10-14 11:16:00 发布

冰雪storm

最新推荐文章于 2024-10-14 11:16:00 发布

阅读量1.9k

点赞数 4

分类专栏： DeepInteraction安装记录文章标签： pytorch 深度学习 python Powered by 金山文档

本文链接：https://blog.csdn.net/ust36q08yr/article/details/128552498

版权

DeepInteraction安装记录专栏收录该内容

5 篇文章 0 订阅

订阅专栏

当遇到CUDA运行时错误，提示GPU内存不足时，可以采取清理GPU缓存、查看并杀死占用GPU资源的进程等方法来解决。使用nvidia-smi命令检查GPU状态，用fuser找出占用GPU的进程ID，然后使用kill-9PID终止进程。

摘要由CSDN通过智能技术生成

报错

RuntimeError: CUDA out of memory. Tried to allocate 636.00 MiB (GPU 0; 10.76 GiB total capacity; 3.77 GiB already allocated; 497.25 MiB free; 4.67 GiB reserved in total by PyTorch)

解决方案

一、清空GPU缓存

nvidia-smi

2.查看正在运行的进程

fuser -v /dev/nvidia*

3.kill进程

kill -9 PID

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

冰雪storm

关注关注

4
点赞
踩
2

收藏

觉得还不错? 一键收藏
打赏
0
评论
复制链接

分享到 QQ

分享到新浪微博

扫一扫

专栏目录

python释放cuda缓存库

06-21

博主自行实现的动态链接库，通过python导入后可以实现释放显存，与ai框架无关。支持pytorch、tensorflow、onnxruntime等cuda运行环境。调用dll.reset_cuda()即可释放显存

如何清理GPU的使用

m0_46550089的博客

04-19

3604

在使用服务器跑代码的时候，我们暂停代码，但是GPU缺占用着使用，怎么解决呢？1.我们可以用如下命令查看 nvidia-smi看不到的GPU进程。发现内存泄露问题，即没有进程时，内存被占用。最后就又能重新跑代码了呀。发现僵尸进程（连号的）

参与评论您还未登录，请先登录后发表或查看评论

显卡缓存清理

最新发布

小树苗

10-14

257

在跑Caffe、TensorFlow、pytorch之类的需要CUDA的程序时，强行Kill掉进程后发现显存仍然占用，这时候可以使用如下命令查看到top或者ps中看不到的进程，之后再kill掉：接着杀掉显示出的进程（有多个）：批量清理显卡中残留进程：i<=NF;清理指定GPU显卡中残留进程，如GPU 2：i<=NF;

清理指定GPU显卡中残留进程

AlbertHUBU的博客

04-15

991

GPU显卡 linux 服务器

【已解决】探究CUDA out of memory背后原因，如何释放GPU显存？

FRIGIDWINTER的博客

04-11

7万+

本文探究CUDA的内存管理机制，总结RuntimeError: CUDA out of memory的背后原因，并给出解决方案

cuda out of memory后清理GPU缓存

yeeanna的博客

03-17

1246

输入nvidia-smi查看GPU利用率发现，整体GPU占用了9000M/10000M，但下面运行的进程却不到2000M。事情是这样的，明明模型就不大，但是一直报错cuda out of memory.把所有占用GPU的进程都清理掉就行了。

解决Pytorch 训练与测试时爆显存(out of memory)的问题

09-18

在训练循环中捕获`RuntimeError`异常，并检查异常信息是否包含"out of memory"，如果包含则执行`empty_cache()`。例如： ```python try: output = model(input) except RuntimeError as exception: if "out of ...

Python RuntimeError: thread.__init__() not called解决方法

09-22

然而，在使用`threading.Thread`进行多线程编程时，可能会遇到`RuntimeError: thread.__init__() not called`这样的错误。这个错误通常意味着你没有正确地初始化`threading.Thread`的实例。在标题和描述中提到的...

RuntimeError: DataLoader worker (pid(s) 9528, 8320) exited unexpectedly

01-06

RuntimeError: DataLoader worker (pid(s) 9528, 8320) exited unexpectedly 去网上搜教程，说是在loader定义的时候多进程的参数指定的问题，我的loader定义如下 loader = Data.DataLoader( dataset=torch_dataset,...

Pytorch清空显存缓冲区(torch.cuda.empty_cache)

hxxjxw的博客

08-18

4万+

torch.cuda.empty_cache() 写代码的好习惯是在程序最后执行以下这句话

学习笔记40-Ubuntu下跑Aplaca报错：torch.cuda.0utofMemoryError: CUDA out of memory.解决办法（查看CUDA占用情况&清除GPU缓存）

LZL2020LZL的博客

04-21

6266

发现在执行程序时仅使用极少的内存（图片-1%），因此不是内存不足，考虑可能是缓存爆了！

Ubuntu下查看cuda占用情况&清除gpu占用&跑深度学习报错RuntimeError: CUDA out of memory. Tried to allocate...解决办法

zeeq的博客

03-23

1万+

在使用GPU跑深度学习的时候，报错RuntimeError: CUDA out of memory. Tried to allocate 26.00 MiB (GPU 0; 7.92 G......。意思就是GPU显存不够了。一般来说，解决方法有如下几个：降低batch_size。比如原本设置的是64，那么现在可以改为32或者16甚至更小（我感觉我减少了batch_size之后还是没法跑，更好的解决方法是第二条）。更根本的，查看一下GPU的使用情况，然后将占用较高却又没用的程序给关了。具体怎么查看

pytorch笔记：清理GPU内存

qq_40206371的博客

06-19

1263

用top/htop找到相应程序的PID,再使用 kill 结束该进程。可以清理任何先前运行的程序可能遗留的未释放内存。

pytorch清空GPU缓存

weixin_41142756的博客

08-15

516

在 PyTorch 中，训练完模型后，如果想要释放 GPU 内存，你可以使用以下几种方法：1. 清空缓存使用torch.cuda.empty_cache()来释放未使用的显存。请注意，这不会删除变量，只是帮助 PyTorch 释放未使用的内存。示例如下：登录后复制 import torch # 在训练完成后 ...

GPU 命令行释放内存

nwpuxhld

12-21

4万+

我们在使用tensorflow+pycharm 写程序的时候,　有时候会在控制台终止掉正在运行的程序，但是有时候程序已经结束了，nvidia-smi也看到没有程序了，但是ＧＰＵ的内存并没有释放，那么怎么解决该问题呢？首先执行下面的命令 sudo fuser -v /dev/nvidia* #查找占用GPU资源的PID 因为我们只有一块显卡，所以显示如下图所示: 可以看到我们的nvidia0上还有一

如何释放GPU显存？CUDA out of memory 如何解决

michael_quan2013的博客

07-19

8348

但只能释放失活显存，即通过手动释放后，1中的例子显存占用率为1/10。调用 torch 的功能可以实现显存释放 torch.cuda.empty_cache()，(2) 如果又来个稍小的数据进行推理，推理时需占用。(1) 来一个数据并进行推理，推理结束后占用。释放掉并提供给其进行推理，推理结束后又产生。(3) 如果又来个稍大的数据进行推理，需要。失活内存，CUDA会把2G失活内存中的。内存供其推理，推理结束后共占用。失活内存，则此时的占用率仍是。失活内存，推理结束后仍占用。失活内存，此时占用率则为。

pytorch: 四种方法解决RuntimeError: CUDA out of memory. Tried to allocate ... MiB