pytorch训练神经网络爆内存解决办法

最新推荐文章于 2024-02-02 10:26:57 发布
最新推荐文章于 2024-02-02 10:26:57 发布
阅读量4.4k 收藏 7
点赞数 3
分类专栏： pytorch
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/lyf6_9123/article/details/115112729
版权

pytorch训练神经网络爆内存解决办法

训练的时候内存一直在增加，最后内存爆满，被迫中断。
!](https://img-blog.csdnimg.cn/20210323110010729.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2x5ZjZfOTEyMw==,size_16,color_FFFFFF,t_70)
后来换了一个电脑发现还是这样，考虑是代码的问题。
检查才发现我的代码两次存了loss，只有一个地方写的是loss.item（）。问题就在loss，因为loss是variable类型。
要写成loss_train = loss_train + loss.item()，不能直接写loss_train = loss_train + loss。否则就会发现随着epoch的增加，占的内存也在一点一点增加。
算是一个小坑吧，希望大家还是要仔细。

lyf_666
关注
  • 3
    点赞
  • 踩
  • 7
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
PyTorch深度学习实战（3）——使用PyTorch构建神经网络
盼小辉丶的博客
06-13 6万+
PyTorch 是一个用于构建深度神经网络的库，具有灵活性和可扩展性，可以轻松自定义模型。在本节中，我们将使用 PyTorch 库构建神经网络，利用张量对象操作和梯度值计算更新网络权重，并利用 Sequential 类简化网络构建过程，最后还介绍了如何使用 save、load 方法保存和加载模型，以节省模型训练时间。
【PyTorch笔记】训练时显存一直增加到 out-of-memory？真相了！
最新发布
u010522887的专栏
07-28 639
Pytorch 训模型的过程中，发现总是训练几轮后，出现显存爆炸 out-of-memory 的问题，记录这次 debug 之旅，希望对有类似问题的小伙伴有一点点帮助
解决tensorflow训练时内存持续增加并占满的问题
09-18
今天小编就为大家分享一篇解决tensorflow训练时内存持续增加并占满的问题，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
神经网络模型在训练过程中内存超出的问题
weixin_43890188的博客
01-08 3627
由于配置问题的限制，在训练神经网络的过程中，电脑会很卡，甚至内存超出，这时我们就要考虑减少batch_size和padding后的seq_length和embedding_length。
SSD模型训练过程中CPU占用过高
qq_44931424的博客
11-21 1597
解决SSD模型训练CPU占用过高问题
CPU内存爆满
weixin_43100952的博客
03-20 327
前言 先把现象贴出来 一、见图
在tensorflow下深度学习训练C盘空间暴涨的问题
qq_43690060的博客
09-15 5712
对于和我一样的小白，关于计算机不太了解，就会出现奇葩的问题。 我在运行老师给的关于Unet的代码，在数据集较小的情况下，可以运行出来。有一次，数据集增大了好几倍，代码运行就出现了一个错误，经过百度后，了解是什么内存不够的问题，我突然发现C盘直接暴涨9个G。之后在网上搜索了许久，发现大家都是将代码中的节点信息什么的，也没讲数据存储在哪里了。 最后，灵光一闪打开电脑管家，**清理垃圾**，发现都在缓存里。。。。。我之前以为电脑关机之后会自动释放缓存，我是真的垃圾。 ...
Pytorch神经网络-批训练
04-18
本文将详细介绍PyTorch中神经网络的批量训练方法。 批量训练的核心思想是将大数据集分割成多个小批量（Batches），每次只处理一批数据，然后更新模型参数。在PyTorch中，这一过程主要涉及两个关键组件：`torch....
【深度学习】基于PyTorch架构神经网络学习总结（基础概念&基本网络搭建）
weixin_62100318的博客
02-02 1177
利用PyTorch架构使用神经网络模型时，一般是利用torch.nn函数自定义神经网络框架 | 官方示例： 对于forward函数相对于是用来说明神经网络中的处理过程，如进行卷积运算的次数与类型等，也可以进行简单的数据处理，如下： 卷积层（convolution） stride参数用于设置卷积核在图像中的运行步数，如果为单个整数则说明横向纵向都是一样的，也可以设置为元组，（H,W）（横向、纵向）默认为1padding：进行填充使用示例： 输出效果：dilation:设置卷积核的间隔，一般设置为
Pytorch 自定义神经网络训练自己的图片数据
qq_38931409的博客
09-19 4884
Pytorch 自定义神经网络训练自己的图片数据 利用pytorch来设计自定义的神经网络，准备自定义的数据集，训练分类自己的图片数据 本文利用pytorch训练一个自定义的分类器，来对自己的图片数据集进行分类。神经网络的自定义包括网络结构的设计，网络层次各个参数的设计，如激励函数，卷积层数量，卷积核等参数。数据集的自定义是指用户可以设计自己的待分类图像，并且按照自己的意愿将其进行分类。如果你完全...
PyTorch深度学习实战（7）——批大小对神经网络训练的影响
盼小辉丶的博客
07-31 4308
在神经网络中，批( batch )是指一次输入网络进行训练或推断的一组样本。批处理( batch processing )是指将这一组样本同时输入网络进行计算的操作。本节中首先介绍批( Batch )的基本概念，并且介绍批大小在神经网络训练过程中的影响。
深度学习tensorflow运行完成之后C盘爆满，一招解决
weixin_43038752的博客
02-14 6608
  无论是哪一个深度学习平台，过大的训练数据都可能导致错误运行之后C盘爆满？解决方法是使用360或者联想等电脑的电脑管家对缓存进行清理：   问题顺利解决！
解决神经网络训练过程中加载大文件造成的内存、显存爆炸的情况
pursuingparadise的博客
11-02 2570
最近在跑模型时因为用BERT预训练模型提取评论文本的动态词向量，对于6000个用户，每个用户12条评论，每条评论202个单词，768维的向量大约有40G，如果直接提取，无论是内存还是显存都吃不下，而且如果在模型中一条条提取的话，huggingface开发的transformers虽然可以做到，但预训练模型会在显存中占据2.2G的显存，我的显卡（1080ti 11G显存）在占据2.2G后可以跑的模型batch只有2，无疑会造成速度慢、泛化能力差等问题。 我的解决思路是把600012202*768的向量存到不
Pytorch训练过程中C盘缓存不断增加的问题
日拱一卒，功不唐捐
01-22 9350
Pytorch训练过程中C盘缓存不断增加的问题 之前在训练的过程中，C盘内存会随着训练的轮次越来越少，特别影响训练效果，今天参考大佬的博客终于把问题解决了，记录一下 划重点：训练完后清空内存 del inputs, target, outputs, loss torch.cuda.empty_cache() 案例： def train(epoch): running_loss = 0.0 for batch_idx, data in enumerate(train_loader, 0): inp
跑深度学习时c盘内存暴涨问题
wlkkkkkkkkkkkkkk的博客
08-11 5230
略略略
YOLOX训练C盘爆满解决方案
weixin_45679938的博客
03-03 9043
0. 问题描述：COCO数据集训练到一半突然中断，看C盘显示红色，已经没多少内存了（训练时，生成在AppData/Temp中的临时文件太多） 如图所示：随着epoch的增加，文件越来越大（图中还是yolox-tiny），如果采用yolox-x，C盘不大的一下爆了！！ 1. 问题原因： YOLOX-main/yolox/evaluators/coco_evaluator.py中203行左右**tempfile.mkstemp()**创建文件后，没有进行close()和remove()操作 如下图： 2.
训练神经网络，第一次遇到内存不足
Kp0fS的草稿纸
01-07 1667
解决pytorch运行后c盘满了的问题
m0_65925957的博客
10-22 4371
把pytorch项目打包成exe文件后运行,发现c直接盘爆满,想必是运行完成后临时文件没有删除的原因,找了半天网上也没有说临时文件是放在哪的,于是自己找
pytorch神经网络搭建
05-01
PyTorch 是一个基于 Python 的科学计算库，它支持动态计算图，使得神经网络的搭建和训练变得非常方便。以下是 PyTorch 搭建神经网络的基本步骤： 1. 导入 PyTorch 库和其他必要的库，如 numpy。 ```python import torch import torch.nn as nn import numpy as np ``` 2. 定义神经网络的结构，可以使用 PyTorch 提供的各种层（如全连接层、卷积层等）来搭建网络。 ```python class Net(nn.Module): def __init__(self): super(Net, self).__init__() self.fc1 = nn.Linear(784, 512) self.fc2 = nn.Linear(512, 256) self.fc3 = nn.Linear(256, 10) def forward(self, x): x = x.view(-1, 784) x = F.relu(self.fc1(x)) x = F.relu(self.fc2(x)) x = self.fc3(x) return x ``` 上面的代码定义了一个三层的全连接神经网络，输入为 784 维，输出为 10 维。 3. 定义损失函数和优化器。 ```python criterion = nn.CrossEntropyLoss() optimizer = torch.optim.SGD(net.parameters(), lr=0.01, momentum=0.9) ``` 上面的代码使用交叉熵作为损失函数，使用随机梯度下降（SGD）作为优化器。 4. 训练神经网络。 ```python for epoch in range(num_epochs): for i, (images, labels) in enumerate(train_loader): images = images.to(device) labels = labels.to(device) optimizer.zero_grad() outputs = net(images) loss = criterion(outputs, labels) loss.backward() optimizer.step() if (i+1) % 100 == 0: print('Epoch [{}/{}], Step [{}/{}], Loss: {:.4f}' .format(epoch+1, num_epochs, i+1, total_step, loss.item())) ``` 上面的代码使用 PyTorch 提供的 DataLoader 加载数据，然后进行迭代训练。在每次迭代中，需要将数据和标签转换为 Tensor，并将其发送到 GPU 上（如果有的话），然后进行正向传播、计算损失、反向传播和更新模型参数。在训练过程中，可以打印出损失值和当前的训练进度。 5. 测试神经网络。 ```python with torch.no_grad(): correct = 0 total = 0 for images, labels in test_loader: images = images.to(device) labels = labels.to(device) outputs = net(images) _, predicted = torch.max(outputs.data, 1) total += labels.size(0) correct += (predicted == labels).sum().item() print('Accuracy of the network on the 10000 test images: {} %'.format(100 * correct / total)) ``` 上面的代码使用测试集来评估神经网络的准确率。在测试时，需要关闭梯度计算，以节省内存和时间。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值