自制数据集训练和测试loss均为nan

最新推荐文章于 2023-12-05 11:36:10 发布
最新推荐文章于 2023-12-05 11:36:10 发布
阅读量1.1k 收藏 7
点赞数
文章标签： 深度学习 python tensorflow
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_37766088/article/details/115447140
版权
在使用自制数据集训练TensorFlow 2.0模型时遇到训练和测试loss为nan的问题。常见原因包括学习率过高、输入数据未归一化、交叉熵损失函数特性和样本中存在nan。通过检查，发现问题是由于测试时输出层神经元数量与标签范围不匹配导致的。解决方法是调整输出层神经元的数量以匹配标签的最大值。
摘要由CSDN通过智能技术生成

自制数据集训练和测试loss均为nan

在B站上看了tf2.0的教程，尝试了一下自己制作数据集，然后就碰到了训练一开始loss就为nan的尴尬窘境。
loss为nan

通常原因

查了半天，大体上有以下几种原因：
1.学习率过高
在model.compile中修改学习率

model.compile(optimizer=tf.keras.optimizers.Adam(learning_rate=0.001),
              loss=tf.keras.losses.SparseCategoricalCrossentropy(from_logits=False),
              metrics=['sparse_categorical_accuracy'])

2.输入数据未做归一化
这个比较简单，只要

x_train, x_test
最低0.47元/天 解锁文章
胡说八道的达达
关注
  • 0
    点赞
  • 踩
  • 7
    收藏
    觉得还不错? 一键收藏
  • 3
    评论
自制图片训练集
04-01
自制图片训练集，共分成8类，分别为apple,banana,cat,dog,human,phone,tiger,water；压缩包里面分成两个文 件夹，一个是训练图片集，一个图片名的txt集合；
caffe 绘制训练集和测试集的loss和accuracy对比曲线
04-20
利用Caffe提供的脚本程序和Caffe训练日志画loss曲线与accuracy曲线。加强版，可以绘制对比曲线。辛辛苦苦修改作成的代码，大家还是给点儿资源分做鼓励吧，如果实在需要又没有资源分，请根据博客留下的联系方式联系我...
pytorch 测试时出现nan值？
Koyurion的博客
09-07 2839
使用pytorch进行神经网络实验。写好代码，想做一下测试，于是使用数据量较少(5条)，且全为[0,1] 1） 5折交叉验证时，训练时不会有出现 nan的情况 2） 训练集 测试时也不会出现， 3） 但是当测试集进行测试的时候，就会出现 nan。 4） 查阅其原始变量，皆非nan 5）将测试集与训练集合并测试时，也会出现 nan 的情况 当将数据提升到10，20时仍会出现。但提升到100后，情况正常。学习率:10^-4,L2: 10^-4. 这是为啥啊？ ...
测试集准确率为NAN
weixin_42076509的博客
04-05 3514
进行模型校验时，模型评估测试集准确率为nan,如下 nan /opt/conda/envs/python35-paddle120-env/lib/python3.7/site-packages/numpy/core/fromnumeric.py:3118: RuntimeWarning: Mean of empty slice. out=out, **kwargs) /opt/conda/envs...
BUG:pytorch测试模型时结果为nan或全0
xushuo的博客
11-03 1415
pytorch模型推理/卷积操作 出现全0或全nan
Unet如何制作自己的训练集
HHsHH1234的博客
04-24 2907
最近一直在学unet，所以分享一个如何做一个自己想要的训练集，而不是去从网上找的博客。 首先打开cmd 输入你自己的虚拟环境，我是在base直接把所有环境都安好了，就不想在创建虚拟环境在安装了。 然后 pip install labelme==3.16.7 下载好了之后直接输入labelme 这就是打开后的样子 然后对所选择的图形进行描图，就像这样 最后他会在你的指定文件下生成一个josn文件，你现在还不能直接打开这个josn文件，需要运行代码 import argparse import bas
TFRecord格式数据读取+划分训练集、验证集和测试集
Ta的傻妞的博客
04-16 1414
可以参考深度学习笔记：在小数据集上从头训练卷积神经网络_笨牛慢耕的博客-CSDN博客_小数据集训练 ImageDataGenerator.flow_from_directory可以提取TFrecord数据格式。 image_dataset_from_directory是更古老的东西也能作为TFrecord数据提取的工具，但是提取的是整个文件夹中的文件数据集，如果想要划分为训练集和验证集，可以尝试使flow_from_directory。 示例如下： #使用原模块，subset参数..
Darknet版YOLOv3算法Visdrone数据集上训练结果
04-22
Darknet版YOLOv3算法...1、包含训练好的weights权重文件，以及后缀为cfg、data、names的配置文件，并包含训练map曲线和loss曲线， 2、检测效果参考：https://blog.csdn.net/zhiqingAI/article/details/124230743
对数几率回归练习训练集和测试集
04-12
在这个实践项目中，我们有两个核心文件：`train_data.txt` 和 `test_data.txt`，分别代表训练集和测试集。 训练集 `train_data.txt` 包含了用于模型训练的数据。每一行数据代表一个样本，共有三列。前两列是特征...
pytorch 准备、训练和测试自己的图片数据的方法
09-18
在PyTorch中训练和测试自己的图片数据是一个关键步骤，特别是当你处理自定义的数据集时。以下是如何使用PyTorch准备、训练和测试你自己的图片数据的详细过程： 首先，你需要整理并准备数据。在提供的例子中，作者...
Visdrone数据集YOLOv5训练权重+pyqt界面
06-09
1、yolov5下俯视场景下车辆行人检测视觉检测，包含YOLOv5s和YOLOv5m两种训练好的visdrone数据集权重，以及PR曲线，loss曲线等等，有pyqt界面，目标类别为车辆行人等 2、pyqt界面可以检测图片、视频、调用摄像头 3、...
pytorch框架YOLOv3在Visdrone开源数据集的训练权重和代码
01-20
1、pytorch框架YOLOv3在Visdrone开源数据集的训练权重和代码； 2、3个训练好的模型YOLOv3、yolov3-tinyt、YOLOv3-spp； 3、map、PR、recall、loss、等各种训练曲线图； 4、Ultralytics 版YOLOv3版的代码。
yolov5明火烟雾训练数据集
10-20
【AI数据集】是训练机器学习和深度学习模型的基础，对于明火烟雾检测任务，数据集应该包含大量多样化、标注准确的烟雾和明火图像。这些图像可以涵盖不同的环境、光照条件、火势大小等，以确保模型在实际应用中能处理...
人脸数据集10K张图，用于训练人脸识别模型
03-14
5. **训练过程**：在训练过程中，会将数据集划分为训练集、验证集和测试集。模型在训练集上学习，验证集用于调整超参数，避免过拟合，而测试集则用来评估模型的最终性能。 6. **损失函数**：损失函数的选择对模型的...
YOLOv7车牌和人脸识别+检测模型+数据集
04-16
YOLOv7车牌和人脸识别，含训练好的检测权重，以及PR曲线，loss曲线等等，map达90% 多可检测出车牌的位置，司机脸部区域，是否戴口罩，但不能识别具体的车牌号码。附有一万张车牌人脸检测数据集，有下载链接，标签...
模型训练中出现NaN Loss的原因及解决方法
热门推荐
豆芽菜
05-23 1万+
1 梯度爆炸 原因：学习的过程中，梯度变得非常大，使得学习的过程偏离了正常的轨迹。 症状：观察每次迭代的loss值，会发现loss明显增长，最后因为loss值太大以至于不能用浮点去表示，所以变成了Nan。 可采取的措施：1 降低学习速率，2 如果模型中有多个loss层，就需要找到梯度爆炸的层，然后降低该层的loss weight。 2 学习率过高 原因：过高的学习率乘上所有的梯度使得所有参数变成无效的值。 症状：观察输出日志，会发现学习率变成nan 可采取的措施：设置合适的学习速率 3 损失函数
Deep Learning 之 训练过程中出现NaN问题
BVL的博客
07-25 1万+
相信很多人都遇到过训练一个deep model的过程中，loss突然变成了NaN。在这里对这个问题做一个总结。 一般来说，出现NaN有以下几种情况： 1.如果在迭代的100轮以内，出现NaN，一般情况下的原因是因为你的学习率过高，需要降低学习率。可以不断降低学习率直至不出现NaN为止，一般来说低于现有学习率1-10倍即可。 2.如果当前的网络是类似于RNN的循环神经网络的话，出现NaN
模型训练 出现NaN的原因以及解决方法
最新发布
码农研究僧的博客
12-05 4602
学习率过高： 过大的学习率可能导致权重更新过大，使得权重变得非常大或非常小，从而导致数值不稳定性。梯度爆炸： 当反向传播过程中的梯度变得非常大时，权重更新可能会导致数值不稳定。这通常与深度神经网络中的梯度消失/爆炸问题有关。数值不稳定的激活函数： 某些激活函数在输入值很大或很小的情况下可能产生数值不稳定性。例如，Sigmoid函数在输入值非常大或非常小时可能会返回饱和的输出，导致梯度接近于零。数据预处理问题： 数据中的异常值或不稳定性可能导致网络在处理这些值时出现数值问题。
深度学习理论：Categorical crossentropy 损失函数
KS的博客
08-26 5862
分类交叉熵是一种用于多类分类任务的损失函数。在这些任务中，一个示例只能属于许多可能类别中的一个，模型必须决定哪个类别。形式上，它旨在量化两种概率分布之间的差异。
利用mmdetection训练自己的数据集loss为nan
07-28
你遇到的问题可能是由于训练过程中出现了NaN（Not a Number）的损失值。这通常是由于数据集中存在不合适的标注或者训练参数的设置问题所引起的。下面是一些可能的原因和解决方法： 1. 数据集问题：检查你的数据集中是否存在错误的标注或者缺失的标注。确保每个样本都有正确的标注，并且标注的格式与模型要求的格式一致。 2. 数据预处理问题：检查数据预处理过程中是否存在错误，比如图像尺寸调整、颜色通道转换等操作。确保预处理过程中没有出现除0操作或者其他可能导致NaN值的错误。 3. 学习率设置问题：尝试调整学习率的大小。如果学习率过大，可能会导致梯度爆炸；如果学习率过小，可能会导致训练过程收敛缓慢。可以尝试使用学习率衰减策略或者逐渐调整学习率。 4. 权重初始化问题：检查模型的权重初始化方法是否合适。不合适的权重初始化可能导致训练过程不稳定或者梯度消失/爆炸。 5. 模型参数设置问题：确保模型参数设置合理。比如，检查是否使用了正确的损失函数、是否设置了合适的正则化项等。 6. 训练过程监控问题：在训练过程中监控损失值的变化，并及时检测是否出现NaN值。如果出现NaN值，可以尝试提前终止训练，然后检查训练过程中的具体情况。 记住，在解决问题之前，最好先确定问题的具体原因。你可以尝试逐步调整参数和检查数据，找出导致NaN损失的具体原因，并进行相应的调整。希望这些方法能对你有所帮助！如有更多问题，请随时提问。
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值