解决办法：Train Loss = nan Val Loss = nan

最新推荐文章于 2024-11-08 11:23:24 发布

Olyvia r

最新推荐文章于 2024-11-08 11:23:24 发布

阅读量320

点赞数 2

文章标签：深度学习人工智能机器学习

本文链接：https://blog.csdn.net/m0_73537452/article/details/142104052

版权

最近，改了基线代码的注意力部分，加了一个可学习权重系数，没有报错，但是出现了“Train Loss = nan Val Loss = nan”的结果。

self.Wmh = nn.Parameter(torch.FloatTensor(model_dim, model_dim)).cuda()

自己上网搜了也没找到解决办法，无奈求助师兄，帮我调了下，发现是这个参数的初始化问题，不知道为啥之前那种初始化参数的方式得到的是全为0的参数矩阵，就导致了梯度消失。果然后来改成正态初始化就正常了。

self.Wmh = nn.init.xavier_uniform_(
     [nn.Parameter(torch.FloatTensor(model_dim, model_dim).to(DEVICE))

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

Olyvia r

关注关注

2
点赞
踩
1

收藏

觉得还不错? 一键收藏
1
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

训练神经网络时train loss或是validation loss出现nan

qq_41663215的博客

08-28

5498

最近使用带有SE block的网络在pytorch框架下做训练。training loss 随着epoch增多不断下降，但是突然到某一个epoch出现loss为nan的情况，但是两三个epoch之后，loss竟然又恢复正常，而且下降了。这几篇博客是我debug的借鉴，真的非常有用。这篇介绍了出现nan的基本解决思路。 https://blog.csdn.net/qq_32799915/article/details/80612342 这篇介绍了为什么在多层dense layer之后某一层dense la

1 条评论您还未登录，请先登录后发表或查看评论

train loss: nan acc: nan test loss: nan acc: nan

Zhang_xi_xi_94的博客

08-30

1890

在TensorFlow框架下训练卷积模型时，在初始阶段就出现了这样的情况： epoch: 1 train loss: nan acc: nan test loss: nan acc: nan best test acc: 0 改动了损失函数，但是问题依然没有解决，后边发现时因为给数据参数传入数值时存在空的部分#对数据进行分batch处理 def into_batch(data_pro,data...

keras使用yolov3训练自己的数据时出现- val_loss: nan

qq_30551297的博客

02-13

1548

先说方法，关闭加载预训练，在train.py进行如下修改，将load_pretrained 改为Fasle

关于训练损失是空的局限性解答Train Loss: nan l Val Loss: nan

最新发布

常隆涛的博客

11-08

105

如果数据集有很多连续的0，归一化如果直接调用torch的01归一化，计算过程中就会除以0，出现null，跟数据集数量大小没关系。我的解决方法是，把0的位置加上0.00001，就不报错了，影响应该有但是很小。

caffe学习笔记-深度网络优化过程中loss=nan

joshuaxx316的专栏

09-14

5927

loss = nan 把学习率调小，甚至调到0，观察loss，loss此时不应该为nan了，因为整个网络都不更新了可能和网络初始化有关，贾洋清说初始化不好，lr=0.0001都可能很大了。。。也有人说手动试多种初始化参数，把bias调0.1 再给个github的链接 https://github.com/BVLC/caffe/issues/409#issuecomment-42977

模型训练出现 loss = nan

LQ_001的博客

12-21

433

模型训练出现 loss = nan

训练模型中出现loss连续为nan的解决办法

wang_ningning的博客

04-25

1727

1、优先查看数据，数据中如果有空数据就会出现连续loss为nan，去除空白数据 data=data.dropna() 2、梯度爆炸减小学习率，减小batch_size 3、数据归一化 4、网络的结构化不合理，隐含层，神经元个数 5、更换参数初始化方法对于CNN，一般用xavier或msra方法（这个方法我没用过，只是看到有这个解决办法）我使用第一种方法就解决了问题 ...

训练网络loss出现Nan解决办法

weixin_46525182的博客

08-10

1731

nan解决方法

训练网络出现loss为NaN的情况

VioletHan7的博客

08-24

3651

1.梯度爆炸原因：在学习过程中，梯度变得非常大，使得学习的过程偏离了正常的轨迹。症状：观察输出日志中每次迭代的loss值，发现loss随着迭代有明显的增长，最后因为loss值太大以致于不能用浮点数去表示，所以变成NaN。可采取的方法： 1.降低学习率，比如solver.prototxt中base_lr，降低一个数量级。如果在你的模型中有多个loss层，就不能降低基础的学习率base_l...

自制数据集训练和测试loss均为nan

qq_37766088的博客

04-05

1170

自制数据集训练和测试loss均为nan 在B站上看了tf2.0的教程，尝试了一下自己制作数据集，然后就碰到了训练一开始loss就为nan的尴尬窘境。原因查了半天，大体上有以下几种原因： 1.学习率过高在model.compile中修改学习率标记文本功能快捷键撤销：Ctrl/Command + Z 重做：Ctrl/Command + Y 加粗：Ctrl/Command + B 斜体：Ctrl/Command + I 标题：Ctrl/Command + Shift + H 无序列表：Ctrl/Co

卷积神经网络中loss值为nan的问题（已解决）

gaoyue5511的博客

09-04

1万+

卷积神经网络中loss值为nan的问题最近一直在学习AI方面的东西。想自己搞一个类似MINST的东东，用搞基神经网络，样本用自制的样本……然鹅理想是骨感的，现实是永远吃不上饭的。经过与各种错误轮战后，出现了更大的错误：loss为nan 先上代码吧，比较乱，建议摘了眼镜看：首先是整体代码： import os import glob from skimage import io,...

loss回传遇到的类型错误 loss出现nan

02-19

1929

RuntimeError: expected dtype Float but got dtype Long (validate_dtype at ..\aten\src\ATen\native\TensorIterator.cpp:143) (no backtrace available) loss=criterion(outputs.float(),targets.float()) .long() .float() .double() val_mape_loss=[] val_mse_loss=.

训练时候loss出现nan

lanmy_dl的博客

03-25

444

解决方式，调了lr也不是。最后发现是因为测试是每一个epoch的训练后，所以下一次训练之前要重新train(),也就是要把net.train()写在epoch里面，而不是外面。如果是train完了再test那就无所谓。训练的loss出现nan，第一个epoch是正常的，后面的就开始nan了。

tensorflow_yolov3 神经网络训练时train_loss和test_loss出现NaN（not a number）的原因和解决方法

Dontla的博客

02-13

2360

训练到一定阶段，就全是Nan了可能是代码问题，参考解决办法：看tensorflow_yolov3作者回复说：但我这貌似都训练到头不动了：参考文章1：训练神经网络循环3000次后，交叉熵损失为nan原因？ - Blownhither的回答 - 知乎参考文章2：Train loss: 51,Test loss: nan Saving… #404 ...

警惕！损失Loss为Nan或者超级大的原因

热门推荐

lrt366的博客

07-28

5万+

转自：https://oldpan.me/archives/careful-train-loss-nan-inf 前言训练或者预测过程中经常会遇到训练损失值或者验证损失值不正常、无穷大、或者直接nan的情况：遇到这样的现象，通常有以下几个原因导致：梯度爆炸造成Loss爆炸原因很简单，学习率较高的情况下，直接影响到每次更新值的程度比较大，走的步伐因此也会大起来。如下图，过大的学...

vs安装体验

weixin_30498921的博客

03-21

155

鉴于vs都是英文，所以安装的时间实在是太长了，经过4个小时终于装完了。首先要下载和安装Unit Test Generator。步骤为：tools->Extensions and Updates->online->搜索“Unit Test Generator”即可。安装完后，需要关闭重新开启Visual Studio 2013。然后就可以新建C#...

pytorch训练出现loss=na

slibra_L的博客

06-24

997

遇到一个很坑的情况，在pytorch训练过程中出现loss=nan的情况有以下几种可能： 1.学习率太高。 2.loss函数有问题 3.对于回归问题，可能出现了除0 的计算，加一个很小的余项可能可以解决 4.数据本身，是否存在Nan、inf，可以用np.isnan(),np.isinf()检查一下input和target 5.target本身应该是能够被loss函数计算的，比如sigmoid激活...

train loss:nan train acc: 0.1522

02-27

train loss:nan和train acc: 0.1522是训练型时的两个指标。其中，train loss表示训练过程中的损失值，而train acc表示训练过程中的准确率。 train loss:nan表示在训练过程中，损失值出现了"nan"（Not a Number）的情况。这通常是由于数值计算中的错误或者数据异常导致的。当损失值为nan时，意味着模型无法正确计算损失函数，可能会影响模型的训练效果。 train acc: 0.1522表示在训练过程中的准确率为0.1522，即模型在训练集上的预测准确率为15.22%。准确率是衡量模型性能的指标之一，表示模型对训练数据的分类或预测的准确程度。需要注意的是，train loss为nan和train acc较低可能表明模型在训练过程中存在问题，可能需要检查数据处理、模型结构或超参数等方面的设置是否正确，以及是否存在梯度消失或爆炸等问题。