训练深度网络模型，刚开始约10epoch的loss下降幅度很大，在大约10个epoch之后，变得非常缓慢。请问是什么问题呢？

最新推荐文章于 2023-06-21 13:06:57 发布
最新推荐文章于 2023-06-21 13:06:57 发布
阅读量8.7k 收藏 9
点赞数 5
文章标签： 深度学习 pytorch 神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/aizhibing2011/article/details/109085677
版权

训练深度网络模型，刚开始约10epoch的loss下降幅度很大，在大约10个epoch之后，变得非常缓慢。请问是什么问题呢？

train loss随训练时间的变化图
train loss

val的loss随训练时间的变化图

val的loss
之前以为是训练集过小导致的，加入了新的训练集以后，这种情况反而更严重了，第一初始化loss减少很多，第二在大约6个epoch以后loss下降就非常缓慢了，并且由于验证集没有变化，所以val loss的变化也很奇怪，一直无法收敛。附图如下（添加训练集，未动验证集）：

仅添加训练集后train loss的变化情况
在这里插入图片描述
仅添加训练集val loss的变化情况
在这里插入图片描述
请问有可能是因为什么原因呢？有没有好的解决办法？感谢！

有梦想的人工智障
关注
  • 5
    点赞
  • 踩
  • 9
    收藏
    觉得还不错? 一键收藏
  • 20
    评论
深度学习 loss下降后上升在下降_【深度学习理论】一文搞透梯度下降Gradient descent...
weixin_39555415的博客
12-06 1045
前言 为什么会有这篇文章？梯度下降，是每个入门DL/ML的童鞋避不开的一个坎～，说其是深度学习中的底层原理，也一点不为过，所谓底层原理，就是：你不把它搞懂，也不影响你学习深度学习，不影响你跑模型,开个玩笑：）不过，虽然是底层原理，也就是个披着狼皮的羊，很容易搞定的～ 本文的主要内容：1.什么是梯度下降？ ——用简单的叙述让你了解梯度下降，以及其和损失函数、深度学习的关系；2.梯度下降...
解决Alexnet训练模型在每个epoch中准确率和loss都会一升一降问题
09-16
主要介绍了解决Alexnet训练模型在每个epoch中准确率和loss都会一升一降问题，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
pytorch训练神经网络loss刚开始下降后来停止下降的原因
u012759006的博客
09-10 9035
问题提出：用pytorch训练VGG16分类，loss从0.69下降到0.24就开始小幅度震荡，不管如何调整batch_size和learning_rate都无法解决。 原因：没有加载预训练模型 那么问题来了，官方给出的是1000类的ImageNet预训练模型    https://download.pytorch.org/models/vgg16-397923af.pth，而我要做的是20类...
神经网络模型不收敛，Loss不下降
RechelMx的博客
05-12 860
LearningRate设置过大，会带来跑飞的问题。可能性最大的原因是：Relu激活函数与Softmax（带有exp的loss函数）同时使用。如果数据太少尽量缩小模型复杂度。考虑减少层数或者减少kernel number。为什么同时使用两种函数产生loss跑飞问题？
【网络训练】网络训练时loss不下降的原因
weixin_30752699的博客
04-03 1361
1. 网络训练时train loss与test loss的结果分析: (1) train loss不断下降，test loss不断下降 可能发生的原因： 网络还在学习中，loss在稳步下降。 (2) train loss不断下降，test loss趋于不变 可能发生的原因： 网络出现过拟合的现象，因此在训练集上表现为网络仍在学习，但是test loss趋于不变说明...
模型损失的loss不下降或下降很慢
weixin_43913077的博客
09-06 7656
这里主要记录我碰到的原因 model.eval() 当一个大的模型model中内含bert等大模型时，大模型使用model.eval()时，Bert也同时使用bert.eval()
使用tensorflow训练tfrecord文件的时候，loss开始下降后来上升的原因
w_xiaomu的博客
06-02 7116
以下内容是本人在训练时候所遇到，并且解决的，如果还有没有涉及到的，希望可以交流： 1.刚开始下降，后来上升，可能是数据集的问题，假如数据集训练集的总大小是5000张图片，如果你写为6000或者只要不是5000张的，都可能会出现开始下降后来上升的问题。如果解决该问题的方法是，修改数据集的总大小等于你训练数据集的总大小。 2 可能是模型的问题：如何判断是模型的问题，首先你使用未修改(此处指的是比如re...
train loss与test loss结果分析/loss不下降
pywin
06-10 1716
train loss与test loss结果分析 train loss 不断下降，test loss不断下降，说明网络仍在学习; train loss 不断下降，test loss趋于不变，说明网络过拟合; train loss 趋于不变，test loss不断下降，说明数据集100%有问题; train loss 趋于不变，test loss趋于不变，说明学习遇到瓶颈，需要减小学习率或批量数目; train loss 不断上升，test loss不断上升，说明网络结构设计不当，训练超参数设置不当，数据集经
解决Pytorch训练过程中loss不下降的问题
09-18
今天小编就为大家分享一篇解决Pytorch训练过程中loss不下降的问题，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
记录模型训练时loss值的变化情况
09-16
在机器学习和深度学习中，模型训练是一个关键的过程，其中loss值的变化情况是对模型性能的直接反映。损失(loss)函数衡量了模型预测结果与实际目标之间的差距，是优化过程的核心指标。本文主要讨论如何记录和分析模型...
keras中epoch,batch,loss,val_loss用法说明
09-16
在深度学习领域，Keras是一个常用的高级神经网络API，它构建在TensorFlow、Theano或CNTK等后端之上。本文将深入解析Keras中的一些关键概念：epoch、batch、loss以及val_loss，并讨论它们在训练过程中的作用。 1. **...
如何解决神经网络训练时loss不下降的问题
pengxiang1998的博客
02-15 2835
当我们训练一个神经网络模型的时候，我们经常会遇到这样的一个头疼的问题，那就是，神经网络模型的loss值不下降，以致我们无法训练，或者无法得到一个效果较好的模型。导致训练时loss不下降的原因有很多，而且，更普遍的来说，loss不下降一般分为三种，即：训练集上loss不下降，验证集上loss不下降，和测试集上loss不下降。
[深度学习] loss不下降的解决方法
热门推荐
currycode
04-10 14万+
链接：https://blog.ailemon.me/2019/02/26/solution-to-loss-doesnt-drop-in-nn-train/ 当我们训练一个神经网络模型的时候，我们经常会遇到这样的一个头疼的问题，那就是，神经网络模型的loss值不下降，以致我们无法训练，或者无法得到一个效果较好的模型。导致训练时loss不下降的原因有很多，而且，更普遍的来说，loss不下降一...
牛客网算法八股刷题系列(九)训练过程损失函数不下降问题
静静的学习就好
04-17 524
牛客网算法八股刷题系列——训练过程损失函数不下降问题
多个epoch后损失值突然间变为NAN
xingghaoyuxitong的博客
09-02 2509
问题：上图为使用pix2pix，resnet模型进行训练的方法，设置epoch训练200次，训练到170次时候，损失值突然变为了nan。 配置先验知识：由于GPU显存11GB,训练时显存消耗较大，只能将batchSize降到了2 猜测：有可能是因为突然遇到的坏样本使得在batchSize为2的情况下，计算出来的平均损失偏差交较大，导致梯度绝对值太大，从而参数突然变化，梯度爆炸（纯属猜测，还没有验证） 可能方法： 1）如果batchSize足够大，会减小在一个batch中同时出现坏样本的概率。..
深度学习中的双下降现象
AI公园
12-09 1017
点击上方“AI公园”，关注公众号，选择加“星标“或“置顶”作者：Preetum Nakkiran，Gal Kaplun，Yamini Bansal，Tristan Yang，Boaz B...
loss损失曲线下降到一定程度突然上升，准确率突然下降
weixin_44005108的博客
06-29 7844
情况描述：准确率不断上升，看着情况很好，但是等到了一定时间，突然呈现断崖式下降的趋势。 之前使用的固定学习率，adam优化器，考虑损失函数应该是没有什么问题的，排查原因，换成SGD优化器，学习率随着迭代次数衰减，衰减公式我是按照我那篇论文给出的方式，大家可以找一找余弦衰减或者其他学习率衰减方式，目前来看，准确率稳定下来了。 ...
深度学习训练过程耗时越来越长解决方法
最新发布
欢迎关注，共同进步！
06-21 1099
自己的情况是代码中有过多的图片显示，导致每个iteration/epoch训练时间越来越长。
模型训练过程中出现几个epoch，验证集的准确率变得很低，然后又恢复请问是正常现象吗
06-07
在模型训练过程中，出现几个epoch验证集的准确率变得很低，然后又恢复是一个比较常见的现象。这种现象通常被称为“过拟合”，即模型在训练集上表现良好，但在验证集或测试集上表现较差的现象。 过拟合的原因可能是模型过于复杂，导致过度拟合训练集；也可能是训练数据不足，导致模型无法很好地泛化到新的数据上。当模型出现过拟合现象时，可以采取一些方法来缓解或避免过拟合，例如增加训练数据、减少模型复杂度、添加正则化项等。 在模型训练过程中，出现几个epoch验证集准确率变得很低，然后又恢复的情况，通常是因为模型在训练初期出现了过拟合现象，但随着训练的继续，模型逐渐学习到更加泛化的特征，过拟合现象逐渐减弱。因此，验证集准确率会出现下降和恢复的现象。如果这种现象出现在模型训练的早期，可以尝试减小模型复杂度、增加训练数据等方式来缓解过拟合问题。
评论 20
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值