Bug: CUDA out of memory. Tried to allocate ...问题

最新推荐文章于 2024-06-30 23:24:39 发布
最新推荐文章于 2024-06-30 23:24:39 发布
阅读量1.4w 收藏 6
点赞数 2
分类专栏： cuda
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/sun___shy/article/details/104905591
版权

今天跑代码出现以下bug：

CUDA out of memory. Tried to allocate 60.00 MiB (GPU 0; 10.76 GiB total capacity; 9.03 GiB already allocated; 55.94 MiB free; 316.78 MiB cached)

看到实际内存还有20G，排除内存不够的问题；

网上查到是pytorch与cuda版本不匹配原因；

输入命令：watch -n 1 nvidia-smi

发现自己的cuda 版本是10.2。

但是运行 

cat /usr/local/cuda/version.txt

显示如下：

CUDA Version 10.0.130
CUDA Patch Version 10.0.130.1

以第二个为准，（实际安装第一个官网没有安装教程）

 安装命令如下：

conda install pytorch torchvision cudatoolkit=10.1 -c pytorch

 在测试。。。

wxysunshy
关注
  • 2
    点赞
  • 踩
  • 6
    收藏
    觉得还不错? 一键收藏
  • 3
    评论
专栏目录
RuntimeError: CUDA out of memory. Tried to allocate XX.XX MiB. pytorch训练超出撑爆显存的问题
m0_54484261的博客
04-16 1720
RuntimeError: CUDA out of memory. Tried to allocate XX.XX MiB. pytorch训练超出撑爆显存的问题 1、batch_size设置过大 这种比较好理解，就是单卡batch_size设置大了，数据量就大了，显存可能就放不下了。不过一般batch_size也不宜设置过小，不然如果batch里含有噪声数据其占比就会较大，对模型训练影响就比较大，有时就会把模型训飞了（亲身经历）。 如果batch_size已经调的较小了还是爆了显存，可能就是别的问题了，接
Git使用小坑 Out of memory错误的解决方法
09-30
Git是世界上最流行的分布式版本控制系统，但在使用过程中可能会遇到各种问题，其中之一就是"Out of memory"错误。这个错误通常发生在执行诸如`git clone`这样的大型操作时，当Git尝试分配大量内存来处理数据时，如果...
pytorch模型提示超出内存RuntimeError: CUDA out of memory.
01-20
跑模型时出现RuntimeError: CUDA out of memory.错误 查阅了许多相关内容，原因是：GPU显存内存不够 简单总结一下解决方法： 将batch_size改小。 取torch变量标量值时使用item()属性。 可以在测试阶段添加如下代码： with torch.no_grad(): # 停止自动反向计算梯度 参考： https://wisdomai.xyz/tool/pytorch/archives/2301 https://ptorch.com/news/160.html 作者：菜叶儿掉啦
深度学习CUDA Out of Memory原因总结和方法
最新发布
PeterClerk的博客
06-30 842
CUDA Out of Memory原因总结和方法
解决：RuntimeError: CUDA out of memory. Tried to allocate 128.00 MiB (GPU 0； 2.00 GiB total capacity； 1
地中海の养成记
01-31 6万+
1. 问题2. 分析3. 解决 1. 问题 训练模型时报错： RuntimeError: CUDA out of memory. Tried to allocate 128.00 MiB (GPU 0; 2.00 GiB total capacity; 1.49 GiB already allocated; 57.03 MiB free; 6.95 MiB cached) 2. 分析 这种问题，是GPU内存不够引起的 3. 解决 方法一： 换高性能高显存的显卡 方法二：修改代码 报错的训练代码为.
pytorch: 四种方法解决RuntimeError: CUDA out of memory. Tried to allocate ... MiB
热门推荐
xiyou__的博客
07-06 18万+
Bug：RuntimeError: CUDA out of memory. Tried to allocate … MiB 解决方法： 法一： 调小batch_size，设到4基本上能解决问题，如果还不行，该方法pass。 法二： 在报错处、代码关键节点（一个epoch跑完…）插入以下代码（目的是定时清内存）： import torch, gc gc.collect() torch.cuda.empty_cache() 法三（常用方法）： 在测试阶段和验证阶段前插入代码 with torch.no_gr
解决方法：RuntimeError: CUDA out of memory. Tried to allocate ... MiB
qq_44504069的博客
05-11 1万+
RuntimeError: CUDA out of memory. Tried to allocate 978.00 MiB (GPU 0; 15.90 GiB total capacity; 14.22 GiB already allocated; 167.88 MiB free; 14.99 GiB reserved in total by PyTorch)
torch.cuda.OutOfMemoryError: CUDA out of memory.
m0_72572822的博客
09-26 3872
CUDA out of memory
Fatal error: Allowed memory size of 134217728 bytes exhausted (tried to allocate 2611816 bytes)
10-25
主要介绍了Fatal error: Allowed memory size of 134217728 bytes exhausted (tried to allocate 2611816 bytes)错误的解决方法,需要的朋友可以参考下
loadLibrary msc error:java.lang.UnsatisfiedLinkError:
01-03
loadLibrary msc error:java.lang.UnsatisfiedLinkError: dalvik.system.PathClassLoader[DexPathList[[zip file “/data/app/...出现加载so包有问题时 在buidl.gradle(module:app)下的android{ defaultConfig {
CUDA out of memory. Tried to allocate 16.00 MiB (GPU 0； 6.00 GiB total capacity；总结（1）
qq_38148600的博客
09-04 3万+
CUDA out of memory. Tried to allocate 16.00 MiB (GPU 0; 6.00 GiB total capacity; 4.54 GiB already allocated; 14.94 MiB free; 4.64 GiB reserved in total by PyTorch) 分析问题CUDA内存超载 解决尝试一：GPU未被调用， https://blog.csdn.net/xc_zhou/article/details/107737783 ..
tensorflow CUDA out of memory
无奈的小心酸的博客
05-27 4万+
今天刚把服务器搭建起来 结果程序就跑不起来 当时差点把自己吓尿了 错误类型：CUDA_ERROE_OUT_OF_MEMORY E tensorflow/stream_executor/cuda/cuda_driver.cc:924] failed to alloc 17179869184 bytes on host: CUDA_ERROR_OUT_OF_MEMORY W ./tenso...
解决：RuntimeError: CUDA out of memory. Tried to allocate 64.00 MiB (GPU 0； 4.00 GiB total capacity； 2
universe_R的博客
05-03 3万+
引发pytorch：CUDA out of memory错误的原因有两个： 1.当前要使用的GPU正在被占用，导致显存不足以运行你要运行的模型训练命令不能正常运行 解决方法： 1.换另外的GPU 2.kill 掉占用GPU的另外的程序（慎用！因为另外正在占用GPU的程序可能是别人在运行的程序，如果是自己的不重要的程序则可以kill） 命令行中输入以下命令，可以查看当前正在GPU运行的程序： nvidia-smi 再根据上面显示的正在运行程序的PID，输入以下查看进程的命令，可以查看到进程的相关信息，包括
解决：torch.cuda.OutOfMemoryError: CUDA out of memory.
weixin_44813538的博客
05-11 1万+
2. 解决：可以尝试将batch_size调小。1. 场景：在改进yolov7过程中出现错误。
【已解决】RuntimeError: CUDA out of memory. Tried to allocate 50.00 MiB (GPU 0； 4.00 GiB total capacity；
BetrayFree的博客
11-09 3427
主机中的内存，有两种存在方式，一是锁页，二是不锁页，锁页内存存放的内容在任何情况下都不会与主机的虚拟内存进行交换（注：虚拟内存就是硬盘），而不锁页内存在主机内存不足时，数据会存放在虚拟内存中。显卡中的显存全部是锁页内存,当计算机的内存充足的时候，可以设置pin_memory=True。pin_memory就是锁页内存，创建DataLoader时，设置pin_memory=True，则意味着生成的Tensor数据最开始是属于内存中的锁页内存，这样将内存的Tensor转义到GPU的显存就会更快一些。
RuntimeError: CUDA out of memory. Tried to allocate 352.00 MiB (GPU 0; 7.80 GiB total capacity; 6.45
iamjingong的博客
09-18 3万+
出现类似的错误，试着改小bath_size的值试试。
6G显卡出现CUDA Error:out of memory解决办法
weixin_43927862的博客
08-07 553
从6月初开始，6G显存的显卡开始出现CUDA Error:out of memory的问题，这是因为dag文件一直在增加，不过要增加到6G还需要最少两年的时间。 现在出现问题的原因是1、内核太古老，2、驱动太古老。 解决办法，1、更新最新内核 2、更新512.15版显卡驱动，但不要更新最新版，最新版对LHR显卡进行了限制。...............
RuntimeError: CUDA out of memory. Tried to allocate xx MiB
qq_41691504的博客
12-02 3096
RuntimeError: CUDA out of memory. Tried to allocate 86.00 MiB 几种可能原因： batch size 过大，设置小一些就可以了（另外，batch size的设置应该是GPU使用数量的整数倍，比如4块GPU应设置为4，8，12，16，24等） GPU使用数量问题，有的程序默认1个，且不能修改，改了就报这个错 内存占用过高，清理内存，杀死Python进程 ...
解决pytorch tets时显存不够的问题：CUDA out of memory. Tried to allocate 114.00 MiB
xinong123456123的博客
04-20 1506
今天在运行一项图像refocus的程序时遇到了CUDA out of memory. Tried to allocate 114.00 MiB的问题，判断是显存不够的问题，于是记录以下解决的方法： （1）单卡改多卡，这次还是报错，而且有新的错误：RuntimeError: Caught RuntimeError in replica 0 on device 0. 该问题的解决方法可以参考： ①https://blog.csdn.net/liu_yuan_kai/article/details/1092903
CUDA out of memory. Tried to allocate 798.00 MiB
08-15
引用内存不足RuntimeError: CUDA out of memory. Tried to allocate 16.00 MiB (GPU 0； 2.00 GiB total cap..._cuda out of memory. tried to allocate 4.88 gib (gp_周小董的博客-CSDN博客 。 引用和引用中，都有类似的错误信息，显示了程序尝试分配的内存大小和GPU的总内存容量。根据这些信息，可以得出结论是分配的内存超过了GPU的容量，导致内存溢出。 为了解决这个问题，可以尝试以下几种方法： 1. 减少模型的参数数量或减少输入数据的尺寸，以降低内存需求。 2. 增加GPU的内存容量，可以考虑使用更高容量的GPU或者在多个GPU上进行计算。 3. 使用PyTorch的内存优化技术，例如使用torch.no_grad()来减少内存占用或使用torch.cuda.empty_cache()来释放缓存的内存。 总结来说，当出现CUDA out of memory错误时，需要注意内存的使用情况，适当调整模型和数据的大小，或者通过升级硬件来增加内存容量，以解决内存溢出的问题。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* *3* [CUDA out of memory. Tried to allocate 16.00 MiB (GPU 0； 6.00 GiB total capacity；总结（1）](https://blog.csdn.net/qq_38148600/article/details/120060303)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v92^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"] - *2* [解决：RuntimeError: CUDA out of ... Tried to allocate 160.00 MiB (GPU 0； 10.76 GiB total capacity..](https://blog.csdn.net/zcyzcyjava/article/details/127509058)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v92^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值