当深度学习模型训练过程中遇到NAN损失，可能由多种原因引起，如学习率策略、输入数据异常等。尝试不改动直接重新训练，降低学习率，检查并清洗数据，避免目标值为对称的整数，向预测值添加小的epsilon值以防止除以零，以及采用梯度裁剪等方法，都是有效的解决策略。参考链接提供了更多解决方案。
深度学习中遇到NAN loss
-
什么都不改，重新训练一下，有时也能解决问题
-
学习率减小
-
检查输入数据（x和y），如果是正常突然变为NAN，有可能是学习率策略导致，也可能是脏数据导致
-
If using integers as targets, makes sure they aren’t symmetrical at 0.
I.e., don’t use classes -1, 0, 1. Use instead 0, 1, 2. -
add a small epsilon value to the prediction to prevent this divergence
-
gradient clipping
参考：
- https://github.com/wudashuo/yolov5/blob/master/models/tf.py
扫一扫
1269
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
