RunTime Error : cuda out of memory

最新推荐文章于 2024-08-05 18:32:40 发布
最新推荐文章于 2024-08-05 18:32:40 发布
阅读量1.6k 收藏 1
点赞数 1
分类专栏： 深度学习代码错误解决 文章标签： python 深度学习 人工智能 机器学习 神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_19168521/article/details/115268730
版权

cuda out of memory
分为两种情况

第一种 CUDA out of memory. Tried to allocate 16.00 MiB

在这里插入图片描述

错误信息：
CUDA out of memory. Tried to allocate 16.00 MiB (GPU 0; 7.93 GiB total capacity; 6.68 GiB already allocated; 18.06 MiB free; 41.28 MiB cached)
原因：
运行网络模型过程，占满了内存，引发中断

解决方法
减小输入输入的Batch-size
或者减小图片的尺寸

或重启电脑

第二种 RuntimeError: CUDA error: out of memory

只有错误提示 out of memory

在这里插入图片描述
楼主google答案，发现时因为网络预训练模型和Pytorch版本不匹配

解决方法

1、更新pytorch版本（推荐）
2、不直接提取整个网络，只提取模型参数，这种方法要求你有这个模型的参数文件

 

Akita·wang
关注
专栏目录
学习笔记40-Ubuntu下跑Aplaca报错：torch.cuda.0utofMemoryError: CUDA out of memory.解决办法（查看CUDA占用情况&清除GPU缓存）
LZL2020LZL的博客
04-21 6067
发现在执行程序时仅使用极少的内存（图片-1%），因此不是内存不足，考虑可能是缓存爆了！
Python RuntimeError: thread.__init__() not called解决方法
09-22
然而，在使用`threading.Thread`进行多线程编程时，可能会遇到`RuntimeError: thread.__init__() not called`这样的错误。这个错误通常意味着你没有正确地初始化`threading.Thread`的实例。 在标题和描述中提到的...
【释放GPU内存】OutOfMemoryError: CUDA out of memory
weixin_43941438的博客
05-26 8924
使用torch.cuda.empty_cache()方法来释放PyTorch的缓存，以释放一部分被PyTorch占用的GPU内存。这种情况可能是之前的训练占用了显存，没被释放。命令，可以查看到CUDA已经被快被占满。
使用多卡GPU训练时遇到的错误
最新发布
Z20040913sheng的博客
08-05 770
使用多卡GPU训练时遇到的错误
解决出现CUDA error:out of memory的问题
qq_46542320的博客
05-24 1万+
使用：CUDA_VISIBLE_DEVICES限制一下使用的GPU。CUDA_VISIBLE_DEVICES=0,1 则使用这两张GPU。CUDA_VISIBLE_DEVICES=0 则使用第一张GPU。CUDA_VISIBLE_DEVICES=1，则使用第二张GPU。如何设置CUDA_VISIBLE_DEVICES？例如：有两块GPU，即0,1号GPU，查阅资料，发现是显卡内存不足。
torch.cuda.OutOfMemoryError: CUDA out of memory.
Hello_World1023的博客
04-25 4万+
发现gpu:0显存被PID:19409程序大量占用, 报错应该是默认在gpu:0训练导致显存不足, 接着查看gpu:0上程序所属用户(如果不是师兄的我就kill了)设置完成后查看显存占用情况可以看到, gpu:1显存占用马上上升了, 不影响其他gpu卡的显存。这样即可指定在gpu:1上训练, 实际上是只设置gpu:1可见, 而屏蔽其他gpu卡。这样即可指定在gpu:1上训练, 实际上是只设置gpu:1可见, 而屏蔽其他gpu卡。发现gpu:1空闲, 指定gpu:1上训练模型, 有多种方法,
解决加载torch模型时出现CUDA out of memory
weixin_44424296的博客
09-18 1万+
解决加载torch模型时出现CUDA out of memory 正常来说出现“CUDA out fo memory”是CUDA内存不够出现的bug。 事情是这样滴，我训练完一个模型之后，加载的时候并没有把模型加载到gpu，但是还是报错，代码如下： from transformers import BertForSequenceClassification, AdamW pretrained = 'bert-base-chinese' model = BertForSequenceClassificat
RuntimeError: CUDA out of memory 已解决
maoker_Voice的博客
10-10 6197
Pytorch RuntimeError: CUDA out of memory with a huge amount of free memory
RuntimeError: DataLoader worker (pid(s) 9528, 8320) exited unexpectedly
01-06
RuntimeError: DataLoader worker (pid(s) 9528, 8320) exited unexpectedly 去网上搜教程，说是在loader定义的时候多进程的参数指定的问题，我的loader定义如下 loader = Data.DataLoader( dataset=torch_dataset,...
解决pycharm导入numpy包的和使用时报错：RuntimeError: The current Numpy installation (‘D:\\python3.6\\lib\\site-packa的问题
01-21
标题用pycharm导入numpy包的和使用时报错：RuntimeError: The current Numpy installation (‘D:\python3.6\lib\site-packages\numpy\init.py 1.file→settings→project interpreter→+（建议用pychon3.6版本，我...
解决运行出现CUDA error:out of memory的问题
qq_30653631的博客
07-04 3万+
模型运行出现以下问题，经过查找资料发现解决方案如下： CUDA_VISIBLE_DEVICES限制一下使用的GPU。 比如有0,1,2,3号GPU，CUDA_VISIBLE_DEVICES=2,3，则当前进程的可见GPU只有物理上的2、3号GPU，此时它们的编号也对应变成了0、1，即cuda:0对应2号GPU，cuda:1对应3号GPU。 如何设置CUDA_VISIBLE_DEVICES: ① 使用python的os模块 import os os.environ[‘CUDA_VISIBLE_DEVICES
torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 50.00 MiB (GPU 0； 23.69 GiB total
BetrayFree的博客
10-27 1万+
错误消息提供了一些有关当前GPU内存状态的信息，以及一些建议的解决方法。
解决CUDA error: out of memory
NanXian Lin的博客
03-30 2万+
前情提要： 本人遇到的问题是在训练是正常，一到验证时就会出现cuda error: out of memory的问题 解决思路溯寻： 1.首先就是考虑减少batch_size和num_worker，对于我的情况不奏效 2.然后找到pin_memory发现是设置的True，改为false，仍旧不管用 3.包括把 # Empty GPU cache if torch.cuda.is_available(): torch.cuda.empty_cache()...
CUDA out of memory问题（已解决）深度学习
weixin_46306002的博客
11-10 2613
CUDA out of memory问题解决
torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 400.00 MiB (GPU 0； 6.00 GiB total
mjmald的博客
07-25 1万+
5. **调整 PyTorch 内存管理设置**: 可以尝试调整 PyTorch 的内存管理设置，例如通过设置`max_split_size_mb` 来避免内存碎片化。3. **释放不需要的显存**: 在某些情况下，可能存在一些不需要的显存被占用，可以使用`torch.cuda.empty_cache()` 来释放不需要的显存。可以尝试减小`batch_size` 参数的值。1. **减少模型的大小**: 可以考虑减少模型的大小，例如通过选择更小的模型、减少模型的层数或通道数等方式，来降低内存需求。
全网最全RuntimeError: CUDA error: out of memory解决方法
热门推荐
qq_37668436的博客
11-19 5万+
第一种情况 如果这个报错后面跟了想要占用多少显存但是不够这样的字眼，如下： 解决办法就很简单了： 改小batchsize，batchsize砍半可以差不多省掉一半的显存 推理阶段加上with torch.no_grad()，这个可以将修饰的代码段不要梯度，可以省掉很多显存 改小input的shape，例如(224,224)->(112,112)这样可以省掉一半的显存 换小的网络结构 用多卡训练，torch可以用model = nn.DataParallel(model)启用多卡训练，终端用CUDA
训练时出现的显存错误CUDA error: out of memory
Willjzq1的博客
06-18 8282
RuntimeError: CUDA error: out of memory 出现这种错误一般分两种情况： 第一种情况是你的显卡的显存确实不够，解决方法就是改动 bathsize 这些超参数试试，或者氪金买卡； 第二种情况是显卡的性能能满足，但是被其他的进程占用了，所以可分配的显存不足，解决方法就是结束这些占用显卡的进程从而使现存得到释放。具体地： 在Linux中，在终端输入 nvidia-smi 查看占用显存的PID进程号，然后输入 kill -9 -PID 在Windows中，直
解决：torch.cuda.OutOfMemoryError: CUDA out of memory.
weixin_44813538的博客
05-11 1万+
2. 解决：可以尝试将batch_size调小。1. 场景：在改进yolov7过程中出现错误。
模型推理runtimeerror: cuda out of memory
09-17
模型推理中出现"RuntimeError: CUDA out of memory"错误是因为在GPU上使用的显存不足。这个错误通常发生在模型的输入数据量过大或模型占用的显存资源过多时。 解决这个问题可以采用以下方法： 1. 减少批处理大小：...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值