训练loss不下降原因集合

11年it研发经验，从一个会计转行为算法工程师，学过C#，c++，java，android，php，go，js，python，CNN神经网络，四千多篇博文，三千多篇原创，只为与你分享，共同成长，一起进步，关注我，给你分享更多干货知识!

目录

一，train loss与test loss结果分析

比较完整 Loss和神经网络训练

1.loss等于87.33不变

2.loss保持0.69左右

参考资料

loss一直不下降的原因有很多，可以从头到尾滤一遍：

loss一开始就不下降

---

现在都有ap来衡量网络收敛程度，实践发现，loss降低，但是ap不一定增长。

一，train loss与test loss结果分析

train loss 不断下降，test loss不断下降，说明网络仍在学习;

train loss 不断下降，test loss趋于不变，说明网络过拟合;

train loss 趋于不变，test loss不断下降，说明数据集100%有问题;

train loss 趋于不变，test loss趋于不变，说明学习遇到瓶颈，需要减小学习率或批量数目;

train loss 不断上升，test loss不断上升，说明网络结构设计不当，训练超参数设置不当，数据集经过清洗等问题。

二，