超级会员免费看
结果分布：左边是正样本，右边是负样本。
正负loss要均衡，负样本开始略站优势
左边是正样本，右边是负样本
正确姿势：
先调小学习率，再慢慢加大，因为负样本多，慢慢找正样本。
开始负样本可以在0.8-1之间，占比0.003以内，网络好的话后面就没有了。
先负样本收敛，再正样本收敛
学习率太大的表现：
正负样本两边倒，一会这边，一会都向那边。
loss系数不均衡的表现：
正样本一直在0-0.3，或者负样本一直在0.8-1
本文探讨了神经网络训练过程中正负样本的平衡问题。强调了负样本在初期可能占据优势，建议先采用较小的学习率，逐渐增大，以确保网络能有效学习正样本。正确的训练顺序是先让负样本收敛，再让正样本收敛。学习率过大可能导致样本分布波动，而loss系数不平衡则表现为正样本loss持续在0-0.3，负样本在0.8-1之间。
扫一扫
1万+
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
