今天编程的时候,发现训练的时候验证集分数很高但是最后的测试集合分数很低,经过细心比对发现是在编写测试集的预测的时候程序没有编写正确
另外,学习率并不是说比如学习率为2e-5的时候,学习了10个epoch到达最优,则学习率为4e-5的时候就只需要学习5个epoch到达最优,首先如果差距比较大的时候loss会比较大,其次如果差距比较小的时候loss比较小的时候,学习率较大只会让模型在最优点附近跳来跳去,并不能够达到最优的模型。
08-23
1万+
![](https://csdnimg.cn/release/blogv2/dist/pc/img/readCountWhite.png)
08-31
373
![](https://csdnimg.cn/release/blogv2/dist/pc/img/readCountWhite.png)