Pytorch:出现RuntimeError: CUDA out of memory.的解决方案

最新推荐文章于 2024-04-27 15:52:09 发布
最新推荐文章于 2024-04-27 15:52:09 发布
阅读量5.2k 收藏 5
点赞数 1
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_35896136/article/details/106529986
版权
调用VGG网络的训练时候出现了这个问题报错信息：RuntimeError: CUDA out of memory. Tried to allocate 823.88 MiB (GPU 0; 7.93 GiB total capacity; 6.96 GiB already allocated; 189.31 MiB free; 10.26 MiB cached)从报错信息可以看到，是因为GPU内存不足。因为VGG网络是一个参数很庞大的网络，所以在训练过程中，需要存储大量的参数和损失函数信息等等。.
摘要由CSDN通过智能技术生成

调用VGG网络的训练时候出现了这个问题

报错信息：

RuntimeError: CUDA out of memory. Tried to allocate 823.88 MiB (GPU 0; 7.93 GiB total capacity; 6.96 GiB already allocated; 189.31 MiB free; 10.26 MiB cached)

从报错信息可以看到，是因为GPU内存不足。因为VGG网络是一个参数很庞大的网络，所以在训练过程中，需要存储大量的参数和损失函数信息等等。

解决方案

1. 改变batchsize的大小。 改变batchsize的大小

最低0.47元/天 解锁文章
谁偷了我的酒窝
关注
  • 1
    点赞
  • 踩
  • 5
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
pytorch遇见RuntimeError: CUDA out of memory的解决
引爆激情
07-24 3727
最近在用pytorch做项目时，本人遇到RuntimeError: CUDA out of memory的错误，下面就此问题做一个记录和分享，并谈谈今后遇到爆显存问题的解决思路。 目录 1.查看是否其他程序占用显存 2.查看pytorch和cuda是否匹配 3.cuda.empty_cache()方法 3.当前项目代码是否还使用了keras/tensorflow 4.调小batch_size和通过程序优化显存 1.查看是否其他程序占用显存 遇到此类错误后，对于py格式的文件来说，程序会进行终
RuntimeError: CUDA out of memory. Tried to allocate 48.00 MiB (GPU 0； 6.00 GiB total capacity； 1.99
qq_35831906的博客
11-08 2557
报错信息 "CUDA out of memory" 表明你的 PyTorch 代码尝试在 GPU 上分配的内存超过了可用量。这可能是因为 GPU 没有足够的内存来处理当前的操作或模型。如果你的模型或处理过程需要的内存超过当前 GPU 容量，可能需要考虑使用具有更多内存的 GPU 或使用提供更好资源的云服务。记得在适当的地方运行此代码段，特别是在你使用完特定张量或批次后，将内存释放回 GPU。考虑使用参数较少或规模较小的模型架构。另外，尝试优化模型，去除不必要的层或参数。较小的批处理大小将需要更少的内存。
RuntimeError: CUDA error: misaligned addressCUDA kernel errors might be asynchronously reported at
最新发布
vivi_cin的博客
04-27 1102
把CUDA_LAUNCH_BLOCKING这个环境变量设置为1，1表示True，则会强制消除这种异步性。
报错解决：RuntimeError: CUDA out of memory.
博学而笃志，切问而近思。
10-26 6540
报错解决：RuntimeError: CUDA out of memory.
RuntimeError: CUDA out of memory
梁小憨憨的博客
02-12 3568
今天在训练模型的时候突然报了显存不够的问题，然后分析了一下，找到了解决的办法，这里记录一下，方便以后查阅。 **注**：以下的解决方案是在**模型测试**而不是模型训练时出现这个报错的！
解决：RuntimeError: CUDA out of memory.
ln01010的博客
07-22 2301
利用pytorchGPU训练深度模型时出现RuntimeError:CUDA out of memory问题解决方案
RuntimeError:CUDA out of memory.Tried to allocate 20.00MiB.
m0_61985580的博客
04-23 1万+
这是我遇到的问题，刚开始的时候怎么也解决不了。 然后我去搜了一下解决方法，具体方法如下： 方法一： 仅需减小batchsize 改文件的配置cfg的batchsize=1，一般在cfg文件下的查找batch或batchsize，将batchsize调小后，再次运行，类似于改下面 方法二 ： 上述方法还没解决，不改batchsize，可以考虑下面的方法的链接 不计算梯度： ps: 在报错的哪一行代码的上面，加上下面一行代码，不计算梯度 withtorch.no_grad() 不..
解决出现CUDA error:out of memory的问题
热门推荐
qq_46542320的博客
05-24 1万+
使用：CUDA_VISIBLE_DEVICES限制一下使用的GPU。CUDA_VISIBLE_DEVICES=0,1 则使用这两张GPU。CUDA_VISIBLE_DEVICES=0 则使用第一张GPU。CUDA_VISIBLE_DEVICES=1，则使用第二张GPU。如何设置CUDA_VISIBLE_DEVICES？例如：有两块GPU，即0,1号GPU，查阅资料，发现是显卡内存不足。
Pytorch GPU显存充足却显示out of memory的解决方式
09-18
综上所述，解决PyTorch GPU显存充足却报出“out of memory”的问题需要从多个角度进行排查和优化，包括模型结构、批处理大小、并行计算、版本更新、内存管理和监控等方面。通过这些方法，通常能够有效地避免或解决...
解决出现CUDA error-out of memory的问题.pdf
11-16
理解并掌握这些技巧对于有效利用GPU资源、避免或解决“CUDA error: out of memory”问题至关重要。在实践中，应结合日志监控和调试工具，对模型的显存使用进行精细化管理，确保训练过程的顺利进行。
解决Pytorch 训练与测试时爆显存(out of memory)的问题
09-18
在使用PyTorch进行深度学习模型的训练和测试过程中，可能会遇到“显存溢出”（Out of Memory，OOM）的问题。这个问题通常是由于GPU内存不足以存储所有计算所需的张量而导致的。以下是一些解决PyTorch训练与测试时...
PSENet.pytorch:PSENet的pytorch重新实现
04-22
渐进式规模扩展网络的形状鲁棒文本检测要求pytorch 1.1 火炬视觉0.3 pyclipper 的opencv3 gcc 4.9+更新20190401 加笔者损失，结果在比较下载icdar 2015上的resnet50和resnet152模型： 提取代码：rxjf资料准备遵循...
一步真实解决RuntimeError: CUDA out of memory.
Thebest_jack的博客
05-15 6362
一步真实解决RuntimeError: CUDA out of memory.
torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate XXX
深度学习炼丹师，偶尔分享炼丹技术!
03-17 1310
问题描述：torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 2.39 GiB. GPU 0 has a total capacty of 8.00 GiB of which 0 bytes is free. Of the allocated memory 9.50 GiB is allocated by PyTorch, and 2.24 GiB is reserved by PyTorch but unallocated.
RuntimeError: CUDA out of memory. Tried to allocate 20.00 MiB (GPU 0； 23.65 GiB total capacity； 20.5
程西西
01-17 3931
torch遇到错误：RuntimeError: CUDA out of memory. Tried to allocate 20.00 MiB (GPU 0; 23.65 GiB total capacity; 20.53 GiB already allocated; 9.56 MiB free; 20.94 GiB reserved in total by PyTorch) 原因：应该是我使用的图数据集太大了，而且是一开始就全部怼到了cuda上，所以就内存不够了 解决方法： 参考链接 将批次迭代地发送到
RuntimeError: CUDA out of memory. Tried to allocate 2.18 GiB (GPU 0； 15.92 GiB total capacity； 13.71
weixin_44438120的博客
11-14 2303
如题这是经常遇见的显存不够问题，一般分为train阶段与valid阶段，我曾经在valid阶段时因为没有进行手动的梯度清零而导致显存不够，加上with t.no_grad：问题迎刃而解。 with t.no_grad(): for ii, data in enumerate(dataloader): input, label = data val_input1 = Variable(input, volatile=True)
RuntimeError: CUDA out of memory. Tried to allocate 模型训练 GPU 显存不够报错总结
专注于AI领域前沿技术学习与分享：目标检测、图像修复、超分重建、AI工程化
04-12 9881
RuntimeError: CUDA out of memory. Tried to allocate 1018.00 MiB (GPU 0; 7.79 GiB total capacity; 4.72 GiB already allocated; 853.50 MiB free; 1.52 GiB cached) 享受学术探讨的欢乐，传递温暖，希望能够帮助到刚刚入门的同学 文章目录具体报错简单分析训练时遇到测试时遇到
RuntimeError: CUDA out of memory. Tried to allocate 14.00 MiB
07-27
这个错误是由于CUDA内存不足导致的。根据引用\[1\]和引用\[2\]的信息，你的GPU总容量为4.00 GiB或10.76 GiB，但已经分配了2.34 GiB或1.82 GiB的内存，剩余的内存不足以分配14.00 MiB的内存。这可能是由于你的模型或数据的规模过大，导致内存不足。你可以尝试减小batch size或者使用更小的模型来减少内存的使用。另外，你还可以尝试设置max_split_size_mb参数来避免内存碎片化。关于内存管理和PYTORCH_CUDA_ALLOC_CONF的更多信息，请参考PyTorch的文档。 此外，根据引用\[3\]的信息，你还可以通过手动杀死占用GPU内存的进程来释放内存。你可以使用kill命令加上进程的PID来终止该进程，例如kill -9 31272。 综上所述，你可以通过减小batch size、使用更小的模型、设置max_split_size_mb参数或手动杀死占用内存的进程来解决CUDA内存不足的问题。 #### 引用[.reference_title] - *1* [已解决yolov5报错RuntimeError: CUDA out of memory. Tried to allocate 14.00 MiB](https://blog.csdn.net/Code_and516/article/details/129798540)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^control,239^v3^insert_chatgpt"}} ] [.reference_item] - *2* *3* [解决RuntimeError: CUDA out of memory. Tried to allocate 14.00 MiB](https://blog.csdn.net/qq_43733107/article/details/126876755)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^control,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值