【内存占用不够】RuntimeError: CUDA out of memory.

最新推荐文章于 2024-05-24 12:32:34 发布
最新推荐文章于 2024-05-24 12:32:34 发布
阅读量1k 收藏
点赞数
文章标签： python 人工智能 pytorch 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_43442053/article/details/124001253
版权

当GPU内存占用不够时，将会出现RuntimeError: CUDA out of memory. 的错误，方法是将我们训练的模型转到相应的GPU上。以便更好地训练我们的模型。

如果代码中已经写好了shell脚本则在脚本当中加入以下代码并修改：

CUDA_VISIBLE_DEVICES=3 python main.py --dir_data='dataset' \

其中的CUDA_VISIBLE_DEVICES=3代表你所占用的GPU显卡号在哪个显卡上面跑

如何查看哪个显卡上面还有内存：nvidia-smi指令查看

太阳☀☀
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
pytorch模型提示超出内存RuntimeError: CUDA out of memory.
01-20
跑模型时出现RuntimeError: CUDA out of memory.错误 查阅了许多相关内容，原因是：GPU显存内存不够 简单总结一下解决方法： 将batch_size改小。 取torch变量标量值时使用item()属性。 可以在测试阶段添加如下代码：...
Python RuntimeError: thread.__init__() not called解决方法
12-24
RuntimeError: thread.__init__() not called 复制代码 代码如下: class NotifyTread(threading.Thread):   def __init__(self, params):   threading.Thread.__init__(self) #here。。。。。。   self....
pytorch 如何解决RuntimeError: CUDA out of memory
weixin_39326879的博客
05-15 6008
出现的原因 这个提醒的意思就是运行过程中所需的内存超过CUDA的内存 解决办法 1.最直接的解决办法是减小batch_size(常用),或者减小模型参数和输入大小(一般很少这样做); 2.如果测试过程遇到这种情况,加上 with torch.no_grad(): 内存就不会分配参数梯度的空间 3.如果在训练过程遇到这种情况,可以尝试在训练前先释放CUDA内存 nvidia-smi查看GPU使用率,如果使用率不高,就使用torch.cuda.empty_cache()释放内存 官网对于torch.cuda.e
解决出现CUDA error:out of memory的问题
qq_46542320的博客
05-24 1万+
使用：CUDA_VISIBLE_DEVICES限制一下使用的GPU。CUDA_VISIBLE_DEVICES=0,1 则使用这两张GPU。CUDA_VISIBLE_DEVICES=0 则使用第一张GPU。CUDA_VISIBLE_DEVICES=1，则使用第二张GPU。如何设置CUDA_VISIBLE_DEVICES？例如：有两块GPU，即0,1号GPU，查阅资料，发现是显卡内存不足。
【已解决】torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 250.00 MiB.
最新发布
dont worry about it的博客
05-24 4万+
报错：torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 250.00 MiB.
【释放GPU内存】OutOfMemoryError: CUDA out of memory
weixin_43941438的博客
05-26 8744
使用torch.cuda.empty_cache()方法来释放PyTorch的缓存，以释放一部分被PyTorch占用的GPU内存。这种情况可能是之前的训练占用了显存，没被释放。命令，可以查看到CUDA已经被快被占满。
已解决。RuntimeError: CUDA out of memory.显存不够时使用预训练模型训练的方法。
qq_43977944的博客
04-24 4884
已解决！RuntimeError: CUDA out of memory.显存不够时使用预训练模型训练的方法。
CUDA out of memory（然鹅明明还有空间）
联邦学习小白
09-16 1万+
模型跑完想再跑一遍的时候居然给我报“CUDA out of memory”，很明显，我的显卡虽然菜，但起码还是可以跑的，毕竟刚跑完，那就可能是python在运行完以后没有释放资源，导致GPU的内存满了。 如果是这样的话，那解决的方法就很简单了，直接把进程杀死就行。 首先在C:\Program Files\NVIDIA Corporation\NVSMI位置打开命令行，然后输入nvidia-smi（也可以用nvidia-smi.exe -l 1，每秒更新CUDA使用情况），显示当前gpu的使用情况如下： 显
arcgis-runtime-sdk-android-100.11.0.zip
04-25
《ArcGIS Runtime SDK for Android 100.11：构建地图应用的基石》 ArcGIS Runtime SDK for Android 是Esri公司提供的一款强大的开发工具，它允许开发者在Android平台上构建地图应用，集成地理信息系统（GIS）功能。...
RuntimeError: DataLoader worker (pid(s) 9528, 8320) exited unexpectedly
01-06
RuntimeError: DataLoader worker (pid(s) 9528, 8320) exited unexpectedly 去网上搜教程，说是在loader定义的时候多进程的参数指定的问题，我的loader定义如下 loader = Data.DataLoader( dataset=torch_dataset,...
BUG-2 cuda out of memory 3090都内存不足！！
qq_32730973的博客
09-12 1437
问题描述： 在跑实验训练时有时候会因为加载的东西过多而爆显存 出现 CUDA out of memory. 我的3090都吃不消？ 解决方案： 1、Batch_size 设置过大问题，直接降低batch_size，常见设置16、32、64。。我的64时候爆了 2、此外，常见在求loss时候报错，这时候定位到loss位置，加上如下代码，使用torch.cuda.empty_cache()删除一些不需要的变量代码，释放内存 optimizer.zero_grad() @释
完美解決pytorch载入预训练权重时出现的CUDA error: out of memory
狂小虎/Anthony Dave的博客 KuangXiaoHu's Blogs
09-11 3410
今天小虎远程操纵工作站，想把昨晚练好的预训练模型迁移一下，发现跟往常不一样，nvidia的Cuda报错说出现超出内存的情况。
RuntimeError: No CUDA GPUs are available问题解决
热门推荐
南城
11-28 7万+
RuntimeError: No CUDA GPUs are available问题解决RuntimeError: No CUDA GPUs are available标题 问题阐述问题解决 RuntimeError: No CUDA GPUs are available 标题 问题阐述 在使用cuda进行模型训练的时候出现了这样一个错误： 显示说没有可用的GPU，当时我就炸了，我GeForce RTX 2080 Ti的GPU不能用？ 问题解决 然后我用代码查看了一下GPU的设备数量： print(tor
RuntimeError: CUDA out of memory.不一定是显存不够用
chengxy1998的博客
01-22 1万+
RuntimeError: CUDA out of memory. Tried to allocate 128.00 MiB (GPU 0; 23.70 GiB total capacity; 7.44 GiB already allocated; 87.88 MiB free; 7.71 GiB reserved in total by PyTorch) If reserved memory is >> allocated memory try setting max_split_size_.
已解决：RuntimeError: CUDA error: out of memory
hh5187的博客
09-26 2万+
1. 检查是否使用了合适版本的torch print(torch.__version__) # 1.9.1+cu111 print(torch.version.cuda) # 11.1 print(torch.backends.cudnn.version()) # 8005 print(torch.cuda.current_device()) # 0 print(torch.cuda.is_available()) # TRUE 2.检查是否显存不足，尝试修改训练的batch size，修
报错记录torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 90.00 MiB (GPU 0； 7.93 GiB to
gongkeguo的博客
11-03 2万+
python报错记录
RuntimeError: CUDA out of memory. Tried to allocate 14.00 MiB linux跑深度学习爆显存问题
qq_43457119的博客
09-20 2717
Linux命令中的|符号称之为管道，作用是把前一个命令的输出作为下一个命令的输入（一般为stdout，stderr要做其他处理），管道的功能非常实用，在很多场景下都可以使用到，比如某个文件夹下有几万个文件，但是有一个文件是txt文件，其他均为图片，需要将此文件找出来。可以看到PID、PPID、CMD 3列重要信息，分别是进程ID、父进程ID、进程的启动命令。2、系统的进程太多，有可能跑之前调试的代码进程没有结束，还在占用显存，需要清理。就是我启动的进程，其他的均为系统进程或无关显存占用的进程。
RuntimeError: CUDA out of memory. Tried to allocate 14.00 MiB
07-27
这个错误是由于CUDA内存不足导致的。根据引用\[1\]和引用\[2\]的信息，你的GPU总容量为4.00 GiB或10.76 GiB，但已经分配了2.34 GiB或1.82 GiB的内存，剩余的内存不足以分配14.00 MiB的内存。这可能是由于你的模型或数据的规模过大，导致内存不足。你可以尝试减小batch size或者使用更小的模型来减少内存的使用。另外，你还可以尝试设置max_split_size_mb参数来避免内存碎片化。关于内存管理和PYTORCH_CUDA_ALLOC_CONF的更多信息，请参考PyTorch的文档。 此外，根据引用\[3\]的信息，你还可以通过手动杀死占用GPU内存的进程来释放内存。你可以使用kill命令加上进程的PID来终止该进程，例如kill -9 31272。 综上所述，你可以通过减小batch size、使用更小的模型、设置max_split_size_mb参数或手动杀死占用内存的进程来解决CUDA内存不足的问题。 #### 引用[.reference_title] - *1* [已解决yolov5报错RuntimeError: CUDA out of memory. Tried to allocate 14.00 MiB](https://blog.csdn.net/Code_and516/article/details/129798540)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^control,239^v3^insert_chatgpt"}} ] [.reference_item] - *2* *3* [解决RuntimeError: CUDA out of memory. Tried to allocate 14.00 MiB](https://blog.csdn.net/qq_43733107/article/details/126876755)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^control,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值