CUDA out of memory. Tried to allocate 16.00 MiB (GPU 0； 6.00 GiB total capacity； 4.54 GiB already a

已于 2023-04-09 11:16:06 修改
阅读量1.4k 收藏
点赞数 1
分类专栏： pytorch 文章标签： 深度学习 人工智能 pytorch
于 2023-04-08 15:34:45 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_43384629/article/details/130029623
版权

 CUDA out of memory. Tried to allocate 16.00 MiB (GPU 0; 6.00 GiB total capacity; 4.54 GiB already allocated; 14.94 MiB free; 4.64 GiB reserved in total by PyTorch)

在遇到这个问题时
常见的说1.改batch_size的大小2.换好显卡(我电脑都是3070ti还是不行，感觉就不是电脑的事)3.改代码（使用gpu训练的代码就这个就行

device = torch.device('cuda:0' if torch.cuda.is_available() else 'cpu')

）

而我在搜这个问题的时候，发现这个老哥的说法很正确，自己也尝试成功了，他的解决办法是

关于gpu使用不了bug的修复_torch无法使用gpu_雾淞沆砀的博客-CSDN博客

老师你好ss
关注
  • 1
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
pytorch模型提示超出内存RuntimeError: CUDA out of memory.
01-20
跑模型时出现RuntimeError: CUDA out of memory.错误 查阅了许多相关内容，原因是：GPU显存内存不够 简单总结一下解决方法： 将batch_size改小。 取torch变量标量值时使用item()属性。 可以在测试阶段添加如下代码：...
cuda out of memory. tried to allocate 16.00 mib (gpu 0； 14.75 gib total capacity； 13.87 gib already
weixin_53704902的博客
05-11 451
这个问题可以通过调整bach_size来修复，需提前清楚运行所占内存。
CUDA out of memory. Tried to allocate 16.00 MiB (GPU 0； 6.00 GiB total capacity；总结（1）
qq_38148600的博客
09-04 3万+
CUDA out of memory. Tried to allocate 16.00 MiB (GPU 0; 6.00 GiB total capacity; 4.54 GiB already allocated; 14.94 MiB free; 4.64 GiB reserved in total by PyTorch) 分析问题CUDA内存超载 解决尝试一：GPU未被调用， https://blog.csdn.net/xc_zhou/article/details/107737783 ..
torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 20.00 MiB (GPU 0； 6.00 GiB total
最新发布
Dxy1239310216的博客
05-24 2011
PyTorch提供了自动混合精度（Automatic Mixed Precision, AMP）支持，这可以通过使用较小的数据类型（如半精度浮点数）来减少内存使用，同时保持模型训练的准确性。：如果你有多个GPU，你可以使用PyTorch的DataParallel或DistributedDataParallel来在多个GPU上并行训练你的模型。但是，请注意这通常是PyTorch内部用于管理内存分配的参数，并且可能需要深入了解PyTorch的内存管理机制才能正确使用。：这是最常见的解决方法。
解决：RuntimeError: CUDA out of memory. Tried to allocate 64.00 MiB (GPU 0； 4.00 GiB total capacity； 2
universe_R的博客
05-03 3万+
引发pytorch：CUDA out of memory错误的原因有两个： 1.当前要使用的GPU正在被占用，导致显存不足以运行你要运行的模型训练命令不能正常运行 解决方法： 1.换另外的GPU 2.kill 掉占用GPU的另外的程序（慎用！因为另外正在占用GPU的程序可能是别人在运行的程序，如果是自己的不重要的程序则可以kill） 命令行中输入以下命令，可以查看当前正在GPU运行的程序： nvidia-smi 再根据上面显示的正在运行程序的PID，输入以下查看进程的命令，可以查看到进程的相关信息，包括
报错`RuntimeError: CUDA out of memory. Tried to allocate 256.00 MiB (GPU 0； 9.78 GiB total capaci
富贵的博客
09-16 4443
报错用的3080显卡，内存batch_size只能设置较小的值。
RuntimeError: CUDA out of memory. Tried to allocate 48.00 MiB (GPU 0； 6.00 GiB total capacity； 1.99
qq_35831906的博客
11-08 2715
报错信息 "CUDA out of memory" 表明你的 PyTorch 代码尝试在 GPU 上分配的内存超过了可用量。这可能是因为 GPU 没有足够的内存来处理当前的操作或模型。如果你的模型或处理过程需要的内存超过当前 GPU 容量，可能需要考虑使用具有更多内存的 GPU 或使用提供更好资源的云服务。记得在适当的地方运行此代码段，特别是在你使用完特定张量或批次后，将内存释放回 GPU。考虑使用参数较少或规模较小的模型架构。另外，尝试优化模型，去除不必要的层或参数。较小的批处理大小将需要更少的内存。
torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 400.00 MiB (GPU 0； 6.00 GiB total
mjmald的博客
07-25 1万+
5. **调整 PyTorch 内存管理设置**: 可以尝试调整 PyTorch 的内存管理设置，例如通过设置`max_split_size_mb` 来避免内存碎片化。3. **释放不需要的显存**: 在某些情况下，可能存在一些不需要的显存被占用，可以使用`torch.cuda.empty_cache()` 来释放不需要的显存。可以尝试减小`batch_size` 参数的值。1. **减少模型的大小**: 可以考虑减少模型的大小，例如通过选择更小的模型、减少模型的层数或通道数等方式，来降低内存需求。
Fatal error: Allowed memory size of 134217728 bytes exhausted (tried to allocate 2611816 bytes)
10-25
主要介绍了Fatal error: Allowed memory size of 134217728 bytes exhausted (tried to allocate 2611816 bytes)错误的解决方法,需要的朋友可以参考下
Git使用小坑 Out of memory错误的解决方法
09-30
Git是世界上最流行的分布式版本控制系统，但在使用过程中可能会遇到各种问题，其中之一就是"Out of memory"错误。这个错误通常发生在执行诸如`git clone`这样的大型操作时，当Git尝试分配大量内存来处理数据时，如果...
CUDA out of memory. Tried to allocate 16.00 MiB (GPU 0； 6.00 GiB total capacity；总结（2）
qq_38148600的博客
09-10 3830
今天试了一下，缩小版的数据集，依旧无法运行。 报错为RuntimeError: CUDA out of memory. Tried to allocate 20.00 MiB (GPU 0; 6.00 GiB total capacity; 4.58 GiB already allocated; 6.94 MiB free; 4.65 GiB reserved in total by PyTorch) 这证明是有什么软件提前占用了gpu。 Windows下查看GPU(NVIDIA)使用情况_墨理三生-
解决方法：RuntimeError: CUDA out of memory. Tried to allocate ... MiB
qq_44504069的博客
05-11 1万+
RuntimeError: CUDA out of memory. Tried to allocate 978.00 MiB (GPU 0; 15.90 GiB total capacity; 14.22 GiB already allocated; 167.88 MiB free; 14.99 GiB reserved in total by PyTorch)
【DL-遇错】RuntimeError: CUDA out of memory.
斯基的朦胧
04-16 2575
问题描述： 遇到如下错误提示信息： RuntimeError: CUDA out of memory. Tried to allocate 2.00 MiB (GPU 0;2.00 GiB total capacity; 1.10 GiB already allocated; 1.35 MiB free; 1.13 GiB reserved in total by PyTorch) 原因： 出现类似bug的原因是显存不足 解决方案： 方式一：调整batch_size大小（自己尝试调节） 我这里是将bat
【已解决】RuntimeError: CUDA out of memory. Tried to allocate 50.00 MiB (GPU 0； 4.00 GiB total capacity；
BetrayFree的博客
11-09 3453
主机中的内存，有两种存在方式，一是锁页，二是不锁页，锁页内存存放的内容在任何情况下都不会与主机的虚拟内存进行交换（注：虚拟内存就是硬盘），而不锁页内存在主机内存不足时，数据会存放在虚拟内存中。显卡中的显存全部是锁页内存,当计算机的内存充足的时候，可以设置pin_memory=True。pin_memory就是锁页内存，创建DataLoader时，设置pin_memory=True，则意味着生成的Tensor数据最开始是属于内存中的锁页内存，这样将内存的Tensor转义到GPU的显存就会更快一些。
解决：CUDA out of memory: Tried to allocate 12.11 GiB......
qq_39654162的博客
07-03 1188
解决：运行推理前：export PYTORCH_CUDA_ALLOC_CONF=max_split_size_mb:32。
CUDA out of memory. Tried to allocate 16.00 MiB (GPU 0； 6.00 GiB total capacity
wyyy456的博客
01-10 617
CUDA out of memory. Tried to allocate 76.00 MiB (GPU 0； 10.76 GiB total capacity； 8.45 GiB
2020-09-03
qq_36489878的博客
09-03 561
RuntimeError: CUDA out of memory. Tried to allocate 58.00 MiB (GPU 0; 6.00 GiB total capacity; 3.97 GiB already allocated; 12.14 MiB free; 4.59 GiB reserved in total by PyTorch) 最近在进行yolov5的时候出现了如上的情况，之前的模型都是采用tensorflow和keras训练模型，这次使用pytorch训练模型，真是坑不少，一般
PyTorch 显存爆炸｜RuntimeError: CUDA out of memory. 如何排查问题？
热门推荐
weixin_44935658的博客
10-09 4万+
可以看到这个机子有两张A5000，第一张卡显存是23953MiB / 24564MiB，快用完了，第二张是 18372MiB / 24564MiB，还有一点可以用。两个不同设备上的tensor运算，这个错误一般torch会报错的，但是也有非常隐晦的情况，比如不指明在哪个设备上的常量，需要手动发现。到了要检查代码这一步首先是看batch_size，但如果batch_size太大了应该是一个epoch都跑不了，在前向传播的时候甚至前向传播之前就会出问题了。，一般我会在命令行指定卡，而不是代码里。
RuntimeError: CUDA out of memory. Tried to allocate 256.00 GiB 气人
weixin_43643900的博客
04-12 296
部署stable diffusion 2.0 的时候计算注意模块的数据时，突然爆显存了，还那么大，应该不正常吧。
CUDA out of memory. Tried to allocate 92.00 MiB (GPU 0; 6.00 GiB total capacity; 5.20 GiB already allocated;
10-04
这个错误提示 "CUDA out of memory" 意味着你的GPU内存不足以分配所需的内存。在这种情况下，尝试分配92.00 MiB内存失败，因为GPU 0只有6.00 GiB的总容量，其中已经分配了5.20 GiB的内存。这可能是由于你的模型或数据太大，超过了GPU的容量所致。 为了解决这个问题，你可以尝试以下几种方法: 1. 减少模型的大小: 你可以尝试减少模型的参数数量，或者使用更小的模型来降低内存需求。 2. 减少批量大小: 减小每个批次的样本数量，这样会减少GPU所需的内存。 3. 使用更高容量的GPU: 如果可能的话，你可以尝试使用具有更高内存容量的GPU。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

老师你好ss

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值