model.cuda()遇到CUDA error: out of memory

已于 2023-08-08 23:00:36 修改
阅读量241 收藏
点赞数
文章标签： 深度学习 python pytorch
于 2023-08-02 17:38:11 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_41973051/article/details/132067886
版权

一模一样的环境配置，因为用的是同一个镜像。

一模一样的显卡cuda版本，在服务器A上可以跑，服务器B报这样的错。

所有的参数设置都没有问题，首先不存在内存真的满的问题~

其次，也查了服务器的后台，没有程序在跑

到底是啥问题啊！！！！ 

小小一个猜测:

使用top检查gpu的时候，发现其中一片显卡的缓存非常大，应该是这么大的缓存占了显卡的运存，导致一直缓存溢出，试了试写入固态的命令也都没有用

是不是这个显卡就是相当于这整个服务器的一个驱动啊？反正这片卡我只能跳过了

叫我梨就好了
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
pytorch查看torch.Tensor和model是否在CUDA上的实例
09-18
今天小编就为大家分享一篇pytorch查看torch.Tensor和model是否在CUDA上的实例，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
5.gpu版本Pytorch执行.cuda()代码会卡死
weixin_42416791的博客
04-15 8991
下载好了gpu版本的pytorch后测试 发现torch.cuda.is_available() = True了，但是.cuda()命令运行时候一直卡死，没有反应： 使用pycharm远程连接也是这样，一直卡死在model.cuda()语句不动： 怀疑了好久是不是版本有问题，尝试了各种pytorch-conda-python版本都没有用，而且我下载的就是官网推荐的版本，所以应该是没问题的。后来甚至还怀疑是不是pycharm的问题，但是上面也试了脱离pycharm直接在python虚拟环境里面的pyth
django.db.utils.ProgrammingError: (1146, u“Table‘’ doesn’t exist”)问题的解决
09-20
主要给大家介绍了关于执行python manage.py migrate时报错：django.db.utils.ProgrammingError: (1146, "Table 'test.model_student' doesn't exist" )问题的解决方法，文中将解决的方法介绍的非常详细，需要的朋友可以参考下
torch 指定显卡
billbliss的专栏
07-28 1213
torch.cuda.set_device()的优先级低：如果model.cuda()中指定了参数，那么torch.cuda.set_device()会失效，而且。2. shell中指定。3. 模型/参数中指定。
Pytorch | Pytorch框架中模型和数据的gpu和cpu模式：model.to(device), model.cuda(), model.cpu(), DataParallel
热门推荐
iLOVEJohnny的博客
05-09 1万+
背景介绍 我们在使用Pytorch训练时，模型和数据有可能加载在不同的设备上（gpu和cpu），在算梯度或者loss的时候，报错信息类似如下： RuntimeError: Function AddBackward0 returned an invalid gradient at index 1 - expected type torch.cuda.FloatTensor but got torch.FloatTensor RuntimeError: Expected object of devi...
pytorch踩坑
agonysome的博客
08-24 1963
1. nn.Module.cuda() 和 Tensor.cuda() 的作用效果差异 无论是对于模型还是数据，cuda()函数都能实现从CPU到GPU的内存迁移，但是他们的作用效果有所不同。 对于nn.Module: model = model.cuda() model.cuda() 上面两句能够达到一样的效果，即对model自身进行的内存迁移。 对于Tensor: 和nn.Module不同，调用tensor.cuda()只是返回这个tensor对象在GPU内存上的拷贝，
pytorch之model.cuda()、model.train()和model.eval()
ZwaterZ的博客
07-07 9999
在pytorch中，即使是有GPU的机器，它也不会自动使用GPU，而是需要在程序中显示指定。调用model.cuda()，可以将模型加载到GPU上去。启用 BatchNormalization 和 Dropout不启用 BatchNormalization 和 DropoutPyTorch进行训练和测试时一定注意要把实例化的model指定train/eval eval()时，框架会自动把 BN 和 DropOut 固定住，不会取平均，而是用训练好的值，不然的话，一旦test的batch_size过小，很容易
pytorch中 model.cuba的作用是什么？
weixin_36670529的博客
04-26 2801
在pytorch中，即使是有GPU的机器，它也不会自动使用GPU，而是需要在程序中显示指定。调用model.cuda()，可以将模型加载到GPU上去。这种方法不被提倡，而建议使用model.to(device)的方式，这样可以显示指定需要使用的计算资源，特别是有多个GPU的情况下。 ...
pytorch之model.cuda()、model.train()和model.eval()的区别与作用
weixin_43231756的博客
12-01 773
训练完train样本后，生成的模型model要用来测试样本。在model(test)之前，需要加上model.eval()，否则的话，有输入数据，即使不训练，它也会改变权值。eval()时，框架会自动把 BN 和 DropOut 固定住，不会取平均，而是用训练好的值，不然的话，一旦test的batch_size过小，很容易就会被BN层导致生成图片颜色失真极大！在pytorch中，即使是有GPU的机器，它也不会自动使用GPU，而是需要在程序中显示指定。
Pytorch Note
weixin_40194088的博客
03-11 210
Pytorch Note 文章目录Pytorch Notecuda & cudnn训练train随机种子seed卷积函数GPU的使用单GPU多GPU取数据GPU->CPUtorch中parameters模型保存与加载保存模型与加载冻结部分参数，训练另一部分参数 cuda & cudnn cuda a general purpose parallel computing platform and programming model that leverages the paralle
pytorch:model.train和model.eval用法及区别详解
09-17
今天小编就为大家分享一篇pytorch:model.train和model.eval用法及区别详解，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
wireless_error_model.rar_wireless_error_model
09-22
无线模拟仿真中，信道误差模型的代码，比较不错的哦
face_landmark_model.dat
01-31
安装opencv_contrib过程中下载face_landmark_model.dat失败。下载此文件。
【深度学习】YOLOv5，金属表面的缺陷检测，GC10-DET数据集
q742971636的博客
04-26 420
数据集的lable文件夹下是每个图片的框和类别标记，是xml格式。
Exploiting CXL-based Memory for Distributed Deep Learning——论文泛读
重新开始写博客
04-25 906
基于CXL内存扩展内存时，如何优化DL模型训练，本文提出DeepMemoryDL框架，通过资源收集+负载分析+数据预取，优化模型训练时间，避免数据读取导致的I/O停滞。核心是数据预取，并没有利用很多CXL的特性。
深度学习突破：LLaMA-MoE模型的高效训练策略
人工智能前沿分享
04-26 1339
在人工智能领域，大模型（LLM）的崛起带来了前所未有的进步，但随之而来的是巨大的计算资源需求。为了解决这一问题，Mixture-of-Expert（MoE）模型架构应运而生，而LLaMA-MoE正是这一架构下的重要代表。LLaMA-MoE是一种基于LLaMA系列和SlimPajama的MoE模型，它通过将LLaMA的前馈网络（FFNs）划分为稀疏专家，并为每层专家插入top-K个门，从而显著减小模型大小，降低训练成本。这种方法不仅保持了模型的语言能力，同时实现了输入的高效处理。
基于自注意力机制的长短期记忆神经网络(LSTM-SelfAttention)的回归预测
沅的博客
04-27 1049
它结合了LSTM和自注意力机制的优势，可以有效地处理时序数据中的长期依赖关系和关键部分。这个模型结合了两个不同的结构，即长短期记忆网络（LSTM）和自注意力机制，从而在时序数据预测中发挥各自的优势。LSTM-SelfAttention模型的优势在于它既能捕捉到时序数据中的长期依赖关系（通过LSTM），又能关注输入数据中的关键部分（通过自注意力机制）。LSTM在时序数据预测中表现出色，因为它可以捕捉到数据中的长期依赖关系。自注意力层：在LSTM层之后，引入自注意力机制，以关注时序数据中的不同部分。
Sarcasm detection论文解析 |用于微博讽刺检测的上下文增强卷积神经网络
最新发布
人工智能学习生
04-30 816
在卷积神经网络的基础上，我们为这项任务提出了两种不同的语境增强神经网络模型。与之前的研究相比，我们的神经网络模型将推文内容本身的特征和上下文特征以单词向量的形式整合到了一个模型中。实验结果表明，与最先进的离散模型和基于上下文的模型相比，我们提出的上下文增强神经网络模型具有更好的性能，证明了上下文增强神经网络模型在这项任务中的有效性。
基于Matlab使用深度学习的多曝光图像融合
Q1744828575的博客
04-30 410
一、项目背景在图像处理领域，多曝光图像融合技术是一种重要的技术，它可以将不同曝光条件下的多幅图像合并为一幅高动态范围（HDR）图像。这种技术对于改善图像的视觉效果、增强图像的细节和对比度等方面具有重要意义。近年来，随着深度学习技术的快速发展，将深度学习应用于多曝光图像融合领域已成为一个研究热点。本项目旨在利用Matlab平台和深度学习技术，实现高效、准确的多曝光图像融合。二、项目目标构建深度学习模型：基于Matlab深度学习工具箱，构建适用于多曝光图像融合的深度学习模型。
return torch.batch_norm( RuntimeError: CUDA error: out of memory
09-17
出现"RuntimeError: CUDA out of memory"错误是因为GPU显存内存不足。解决方法有以下几种： 1. 将batch_size改小：通过减小每个batch的大小，减少GPU显存的占用量。 2. 使用item()属性获取torch变量的标量值：在取出...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值