关于训练模型时的loss及相关指标分析

最新推荐文章于 2024-04-23 13:45:05 发布
最新推荐文章于 2024-04-23 13:45:05 发布
阅读量1.3k 收藏 6
点赞数
分类专栏： 机器学习 文章标签： 深度学习 机器学习 神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_41745284/article/details/123370193
版权

case1：train loss下降，val loss下降 <模型还在学习>

case2：train loss下降，val loss上升 <模型过拟合，1.做一些正则化,加大weight decay 2.数据增强 3.加大Batch Size 4.或者更改优化器从SGD改为Adam>

case3：train loss不变，val loss下降 <数据有问题，检测数据>

case4：train loss不变，val loss不变 <学习瓶颈，优化模型或调低学习或降低weight decay>

case5：train loss上升，val loss上升 <模型结构设计出现错误，检测模型代码/超参>

transformer从入门到入门
关注
  • 0
    点赞
  • 踩
  • 6
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
loss_loss_如何读取loss值_损失函数_
10-01
损失函数值得读取，以及画出来，显示到图上。
基于yolov5+opencv眼睛嘴巴识别检测源码(带GUI界面)+训练好的模型+评估指标曲线+操作使用说明.zip
12-12
基于yolov5+opencv眼睛嘴巴识别检测源码(带GUI界面)+训练好的模型+评估指标曲线+操作使用说明.zip 该项目是识别检测 人的眼睛和嘴巴，并显示出人眼和嘴巴的位置框及置信度 带GUI界面，训练好的模型，评估指标曲线，如map(高)、召回率、loss曲线、精确度曲线等 另外附有项目操作说明 【备注】主要针对正在做毕设的同学和需要项目实战的深度学习cv图像识别模式识别方向学习者。 也可作为课程设计、期末大作业。包含：项目源码、训练好的模型、项目操作说明等，该项目可直接作为毕设使用。 也可以用来学习、参考、借鉴。如果基础不错，在此代码上做修改，训练其他模型。 有问题，可以留言或者私信
【大语言模型基础】Transformer模型Torch代码详解和训练实战
最新发布
2301_81888214的博客
04-23 1430
Transformer是由谷歌在17年提出并应用于神经机器翻译的seq2seq模型，其结构完全通过自注意力机制完成对源语言序列和目标语言序列的全局依赖建模。
基于yolov5算法实现绝缘子及绝缘子缺陷识别检测源码+模型文件+评估指标曲线+使用说明.zip
11-29
1、基于yolov5算法实现绝缘子及绝缘子缺陷识别检测源码+模型文件+评估指标曲线+使用说明 2、附有训练、loss(损失值)下降曲线、Recall(召回率)曲线、precision(精确度)曲线、mAP等评估指标曲线 3、迭代200次，模型拟合较好。 4、识别2个类别，分别是“绝缘子”和“绝缘子缺陷” 【备注】有相关使用问题，可以私信留言跟博主沟通。
PMSQE.zip 语音降噪模型训练PMSQE loss 对应pesq指标MOS分
11-18
语音降噪模型训练PMSQE loss 对应pesq指标MOS分
基于yolov5算法实现绝缘子识别检测源码+模型文件+评估指标曲线+使用说明.zip
11-29
1、基于yolov5算法实现绝缘子识别检测源码+模型文件+评估指标曲线+使用说明 2、附有训练、loss(损失值)下降曲线、Recall(召回率)曲线、precision(精确度)曲线、mAP等评估指标曲线 3、迭代200次，模型拟合较好。 4、识别类别只有“绝缘子”一类 【备注】有相关使用问题，可以私信留言跟博主沟通。
关于 train loss、val loss训练时遇到的问题
WGS.
01-14 2万+
数据集说明 训练集是用于模型的训练的样本集合，确定模型的权重参数。 训练集的数量随着模型的复杂度要增多。 反向传播确定最优参数。 验证集用于验证模型的评估、模型的选择、参数的调整。 选择模型、调整超参、初步评估模型。 测试集是用于模型的无偏估计。 再找个集合评估模型看看是否是偶然稳定，即验证无偏性。 保证同分布，最好保证测试集的正负比和实际环境的一致。 如果模型在训练集、验证集、测试集的表现都很好，但是在实际用的新数据表现很差，可能的问题： 分布不一致，新数据与原数据的特征之间存在差
train loss下降， val loss上升
热门推荐
tutuliangliang的博客
12-26 3万+
训练结果： 可以看到训练集的loss和acc都在上升，而验证集的loss先下降后上升，模型表现为过拟合。 调整batch_size，从8改到32后结果： 验证集loss不会上升了。 ...
关于神经网络的模型训练时loss和val_loss变化的问题（笔记整理）
m0_60166035的博客
03-11 7181
train loss 下降⬇，val loss下降⬇，说明网络仍在学习；~~ 奈斯，继续训练 train loss 下降⬇，val loss上升⬆，说明网络开始过拟合了；~~ 赶紧停止，然后数据增强、正则 train loss 不变，val loss不变，说明学习遇到瓶颈；~~ 调小学习率或批量数目 train loss 不变，val loss下降⬇，说明数据集100%有问题；~~ 检查数据集标注有没有问题 train loss 上升⬆，val loss上升⬆，说明网络结构设计不当，训练超参数设置不当，数据
三、loss和Val_loss判定模型结果好坏准则
weixin_48205788的博客
03-09 7174
摘要：根据Loss值来判定模型好坏、以及解决措施
基于深度学习opencv实现电单车识别检测源码+模型(6800多个目标数据训练)+评估指标曲线+操作使用说明.zip
11-30
1、基于深度学习opencv实现电单车识别检测源码+模型(6800多个目标数据训练)+评估指标曲线+操作使用说明 2、模型文件使用含有6800+个目标数据集训练，训练集大且多样性充足 3、附有训练、loss(损失值)下降曲线、Recall(召回率)曲线、precision(精确度)曲线、mAP等评估指标曲线 4、迭代200次，模型拟合较好。 5、识别一个类别：“电单车” 【备注】有相关使用问题，可以私信留言跟博主沟通。
sklearn使用入门
断点_C的博客
03-05 1516
机器学习—sklearn使用入门
深度学习网络模型训练过程中的Loss问题合集
ＡＩ女的博客
03-19 7701
把数据集随机分为训练集，验证集和测试集，然后用训练集训练模型，用验证集验证模型，根据情况不断调整模型，选择出其中最好的模型，再用训练集和验证集数据训练出一个最终的模型，最后用测试集评估最终的模型 训练集（Training Set）：用于训练模型。 验证集（Validation Set）：用于调整和选择模型。 测试集（Test Set）：用于评估最终的模型。 train loss不断下降，test loss不断下降，说明网络仍在学习 train loss 不断下降，test loss趋于不变，说明网络过拟合
python机器学习课程——决策树全网最详解超详细笔记附代码
一名在读大学生，正在学习深度学习，会定期分享一些该领域内容。欢迎大家一起交流学习~
03-26 3417
决策树算法是一种逼近离散函数值的方法。它是一种典型的分类方法，首先对数据进行处理，利用归纳算法生成可读的规则和决策树，然后使用决策对新数据进行分析。本质上决策树是通过一系列规则对数据进行分类的过程。决策树方法最早产生于上世纪60年代，到70年代末。由J Ross Quinlan提出了ID3算法，此算法的目的在于减少树的深度。但是忽略了叶子数目的研究。C4.5算法在ID3算法的基础上进行了改进，对于预测变量的缺值处理、剪枝技术、派生规则等方面作了较大改进，既适合于分类问题，又适合于回归问题。决策树算法构造决策
损失值越大越好还是逐渐减小越好？
seasonsyy的博客
04-10 977
损失值越大越好还是逐渐减小越好？
深度学习：根据 loss曲线，对模型调参
weixin_46969441的博客
11-01 1万+
深度学习模型调参笔记 train loss 下降，val loss下降，说明网络仍在学习； 奈斯，继续训练 train loss 下降，val loss上升，说明网络开始过拟合了；赶紧停止，然后数据增强、正则 train loss 不变，val loss不变，说明学习遇到瓶颈；调小学习率或批量数目 train loss 不变，val loss下降，说明数据集100%有问题；检查数据集标注有没有问题 train loss 上升，val loss上升，说明网络结构设计不当，训练超参数设置不当，数据集经过清洗等问
神经网络与深度学习---train_loss和val_loss(test_lost)分析
xtcc的博客
12-26 1万+
1.train_loss 不断下降，val_loss(test_lost) 不断下降 说明网络训练正常，最好情况 2.train_loss 不断下降，val_loss(test_lost) 趋于不变 说明网络过拟合，可以添加dropout和最大池化max pooling 3.train_loss 趋于不变，val_loss(test_lost) 不断下降 说明数据集有问题，建议重新选择 4.train_loss 趋于不变，val_loss(test_lost) 趋于不变 说明学习遇到瓶颈，需要减小学习率或批
损失函数（Loss）
weixin_49346755的博客
10-17 2053
如果我们定义了一个机器学习模型，比如一个三层的神经网络，那么就需要使得这个模型能够尽可能拟合所提供的训练数据。但是我们如何是否足够呢？那就需要使用相应的指标来评价它的拟合程度，所使用到的函数就称为(Loss Function)，当损失函数值下降，我们就认为模型在拟合的路上又前进了一步。最终模型对训练数据集拟合的最好的情况是在损失函数值最小的时候，在指定数据集上时，为损失函数的平均值最小的时候。
picodet训练出来的模型loss大于1正常吗
06-01
PicoDet 是一种基于 PaddlePaddle 深度学习框架的目标检测算法，对于 PicoDet 模型的训练过程中的 loss 值，需要根据具体的数据集和任务来进行评估。一般来说，如果 loss 值大于 1，可能意味着模型存在一些问题，例如模型过拟合、学习率设置不当、数据集的质量不高等。但是，这并不是绝对的，如果数据集比较复杂，目标检测任务比较困难，那么训练出来的模型的 loss 值可能会比较高，此时可以通过其他指标（例如 mAP）来综合评估模型的性能。 因此，需要根据具体情况来判断 PicoDet 模型的 loss 是否正常。如果模型的 loss 值过高，可以尝试调整训练参数、增加训练数据量、调整损失函数等方法来改善模型的性能，从而降低 loss 值。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值