深度学习：loss nan accuracy变化小

已于 2022-07-14 17:37:08 修改
阅读量516 收藏
点赞数 1
分类专栏： 深度学习 文章标签： 深度学习 tensorflow python
于 2022-07-14 09:11:40 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/a343981218/article/details/125776913
版权

win11 + rtx3060ti +TensorFlow-gpu+cuda

看似上面的环境非常简单，但是里面的版本对应非常严格，我尝试过TensorFlow2.3.0+cuda10.2，遇到各种奇葩问题：

1.cpu训练数据时，loss和accuracy都正常，且稳定下降；相同数据，gpu训练时loss不下降，accuracy不下降

2.cpu训练时，loss正常，且稳定下降；gpu训练时loss为nan

最后各种google，发现有可能是cuda带来的影响，于是升级了cuda11.2，升级后发现功能更加丝滑、不会出现奇葩问题了。

cuda安装也是坑，如果安装了其它版本，一定要先卸载完全，否则不能正常安装；最后根据安装提示，我安装了vs2019，才顺利完成cuda11.2的安装

运行的时候会提示zlib找不到，下载后放到c:\\windows\system32目录 

http://www.winimage.com/zLibDll/zlib123dllx64.zip

飘摇的海啸
关注
  • 1
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 3
    评论
专栏目录
解决keras GAN训练是loss不发生变化,accuracy一直为0.5的问题
09-16
主要介绍了解决keras GAN训练是loss不发生变化,accuracy一直为0.5的问题，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
【机器学习技巧】-训练过程中，loss参数出现NAN怎么解决？解决方案汇总？
小坏蛋的博客
03-26 1万+
深度神经网络在训练过程中，loss参数出现NAN怎么解决？解决方案？
训练网络时出现 误差loss 是 NAN
u011304078的博客
10-31 2000
我的训练的是VGGnet19，训练从一开始loss就一直是NAN，ACC准确率也很低，而且一直也没有提高的迹象，在0.0xx徘徊。 我发现我的网络中未加归一化操作，最后在每层都加了归一化层，解决了该问题，见下图，loss逐渐减少，ACC逐步增大，呵呵。 （**提示**：在2015年 Very Deep Convolutional Networks for Large-Scale Image R...
tensorflow训练网络时loss出现nan值，准确率为0的问题解决方法（尝试）
热门推荐
accumulate_zhang的博客
04-11 3万+
问题：在使用tensorflow训练网络的时候，发现每次一个batch训练时，它的loss都为nan,导致准确率都为0。nan是代表无穷大或者非数值，一般在一个数除以0时或者log(0)时会遇到无穷大，所以你就要想想是否你在计算损失函数的时候，你的网络输出为0，又计算log,从而导致出现nan。网上也有很多原因的解释，比如学习率过大，batch过大，或者本身数据就很脏等等原因，我尝试减小学习率，从...
神经网络回归任务——关于预测目标是是较小以及较大数量级,loss为nan的解决办法
乐趣是人为构建的，构建是一种莫大的乐趣。
03-10 5148
关于预测标签是是较小数量级时的解决办法: 当预测目标太小，比如1e-4，1e-3，如果直接用训练标签和输出进行mse损失计算，梯度太小，难以训练。 提前预处理数据，对输出标签先进行归一化。 这个办法有的任务是可行的，但有的任务就不行，标签归一化降低了神经网络的训练难度，同时也意味着减少了神经网络能够输出的信息。 比如使用归一化的标签训练出的神经网络在测试样本上输出[1.1,1.3,1.5],我没法知道[1.1,1.3,1.5]对应的真实数据是多少，因为我并不清楚测试集的方差或均值。如果使用训练集的方差和均
Tensorflow训练网络出现了loss = NAN解决方案
123
10-19 1458
注：内容来源与网络 最近用Tensorflow训练网络，在增加层数和节点之后，出现loss = NAN的情况，在网上搜寻了很多答案，最终解决了问题，在这里汇总一下。 数据本身，是否存在Nan,可以用numpy.any(numpy.isnan(x))检查一下input和target 在训练的时候，整个网络随机初始化，很容易出现Nan，这时候需要把学习率调小，可以尝试0.1，0.01，0.001，...
关于TensorFlow-gpu出现nan原因
Lu_Home的博客
03-27 1198
当我使用CPU跑程序的时候，结果的LOSS正常输出，但是当我改成使用GPU时，我的loss显示为nan。 但是我的输出图片是可以输出的，程序也是可以运行的，说明问题出现在loss函数这一部分。查阅资料后发现，TensorFlow-gpu版不支持双星号（**）运算，所以在损失计算时，返回的数组就会变成nan。 于是我就去找我的loss的这一部分代码，发现确实有双星号的存在。 于是我就把双星号去掉，改成最原始的样子（src-dst）*(src-dst)，结果loss就可以正常输出。 有可能GP.
Tensorflow编程问题-Loss Nan
qq_40676033的博客
12-05 189
1、在分类问题中，我们经常使用到交叉熵损失函数，需要注意的是：由于交叉熵损失函数里有对数计算，因此对数的真数部分不能为0，所以我们在计算计算交叉熵时需要给这个真数部分限定一个范围，否则会出现数值下溢的问题，我们可以采取的办法是使用tf.clip_by_value(input,min_value,max_value)函数来限定真数的下限； 2、另一种情况是在训练开始时后出现损失函数值为nan，这种情况一般是由于学习率太大，我们需要减小学习率；或者是在训练一段时间后出现nan，这种情况可能是由于梯度爆炸导致的
解决tensorflow-gpu版本训练loss一直为nan，或者loss，accuracy数值明显不对问题
Sciws的博客
06-15 1659
首先说下我的电脑是有y9000p，win11系统，3060显卡之前装了好几个版本都不行 。python=3.6 CUDA=10.1 cuDNN=7.6 tensorflow-gpu=2.2.0或者2.3.0python=3.8 CUDA=10.1 cuDNN=7.6 tensorflow-gpu=2.3.0都出现了loss一直为nan，或者loss，accuracy数值明显不对的问题尝试了一下用CPU tensorflow跑是正常的，并且也在服务器上用GPU跑了显示正常，说明不是学习率，网络模型，数据集等的
TensorFlow绘制loss/accuracy曲线的实例
09-18
今天小编就为大家分享一篇TensorFlow绘制loss/accuracy曲线的实例，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
keras自定义回调函数查看训练的loss和accuracy方式
09-16
主要介绍了keras自定义回调函数查看训练的loss和accuracy方式，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
基于MATLAB实现的可自定义层数的DNN，针对MNIST进行训练、验证，图形化展示loss和accuracy随迭代次数的变化
01-07
一种用MATLAB实现的可自定义层数的DNN：针对MNIST进行训练、验证，图形化展示loss和accuracy随迭代次数的变化曲线，代码也可以针对其他数据进行训练。 MATLAB-DNN 一种用MATLAB实现的可自定义层数的DNN：针对MNIST...
caffe 绘制训练集和测试集的loss和accuracy对比曲线
04-20
利用Caffe提供的脚本程序和Caffe训练日志画loss曲线与accuracy曲线。加强版，可以绘制对比曲线。辛辛苦苦修改作成的代码，大家还是给点儿资源分做鼓励吧，如果实在需要又没有资源分，请根据博客留下的联系方式联系我...
LLM2Vec介绍和将Llama 3转换为嵌入模型代码示例
deephub
05-05 424
通过LLM2Vec，我们可以使用LLM作为文本嵌入模型。但是简单地从llm中提取的嵌入模型往往表现不如常规嵌入模型。LLM2Vec的作者提出了新的训练目标MNTP和SimCSE来训练从llm中提取的嵌入模型。这种训练成本很高，但根据作者的说法，可以产生更好的嵌入模型。
基于光伏电站真实数据集的深度学习预测模型（Python代码，深度学习五个模型）
qq_40840797的博客
04-29 479
3.模型（LSTM；LSTM_transform模型）评价指标。前6行的10列数据（黄色部分）作为特征输入，第7行的第10列数据（红色部分）为标签。每一行前9列（黄色部分） 作为特征输入，每一行的第10列值作为标签（红色部分）根据已获取的历史数据预测下一个时间点或者未来多个时间点 更符合实际。5. 对数据集和代码感兴趣的，可以关注最后一行。1min是以1min 间隔采集的数据集。这里分别保存了不同间隔采样时间表格。数据集截图（开始位置截图）4.效果图(测试集)
强化学习和深度学习的差异对比
天道酬勤
04-26 1143
它是通过展示大量的图片和相应的标签（例如，“猫”、“狗”等）来学习识别模式的，就像是你通过看不同的猫的图片来学习认识猫一样。如果你的问题涉及到需要做出一系列连续的决策，并且需要考虑环境的反馈以优化某种目标（比如控制机器人、制定金融投资策略等），那么强化学习可能是更合适的选择。有时，深度学习和强化学习可以结合使用，形成深度强化学习（DRL），以利用深度学习在表征学习方面的优势，并将其与强化学习的决策能力结合起来。强化学习通常需要更少的标记数据，因为学习是通过与环境的交互来实现的，而不是直接从标记数据中学习。
深度学习：基于Keras，使用长短期记忆神经网络模型LSTM和RMSProp优化算法进行销售预测分析
最新发布
稻草人的博客
05-05 667
预测是使用过去的值和许多其他因素来预测未来的值。在本文中，我们将使用 `Keras` 功能 API 创建一个销售预测模型。首先，所有输入都经过预处理，以便机器能够理解。这是一个基于监督学习的线性回归模型，因此输出将与输入一起提供。然后，输入连同期望的输出一起被馈送到模型。该模型将绘制(学习)输入和输出之间的关系(函数)。然后，该函数或关系用于预测特定输入集的输出。在这种情况下，像日期和以前的销售额这样的输入参数被标记为输入，销售额被标记为输出。
笔记12-远程服务器上配置linux深度学习C++环境全过程记录（笔记1和2的同样环境第3次配置）
tfxzgp的博客
04-29 819
（笔记1和2在windows上装的同样环境在远程服务器上配置）
loss: nan - accuracy: 0.8801 - val_loss: nan - val_accuracy: 0.8791 解释一下
05-25
这是一个神经网络训练过程中的输出结果，其中包含训练集和验证集的损失值（loss）和准确率（accuracy）。在这个例子中，损失值显示为NaN（Not a Number），这通常表示模型出现了数值计算问题，可能是由于梯度消失或...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

飘摇的海啸

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值