训练集loss震荡:
原因一:
如果是step的时候震荡是正常的,因为这是不同的数据,要观测每个epoch的loss
原因二:
学习率过大,导致来回跳
原因三:
选择的优化器不是很适合
验证集loss震荡:
原因一:
训练集的loss就在震荡
原因二:
loss上升,过拟合(正则,dropout)
loss震荡
最新推荐文章于 2024-07-22 11:04:09 发布
训练集loss震荡:
原因一:
如果是step的时候震荡是正常的,因为这是不同的数据,要观测每个epoch的loss
原因二:
学习率过大,导致来回跳
原因三:
选择的优化器不是很适合
验证集loss震荡:
原因一:
训练集的loss就在震荡
原因二:
loss上升,过拟合(正则,dropout)