- 博客(2)
- 收藏
- 关注
RSS订阅原创 Datawhale AI 夏令营 task3
2、根据提供的上分技巧进行调试，将 epochs 调大一点，使用全部训练集，以及调整模型的参数，如head、layers等。如果数据量允许，增加模型的深度（更多的编码器/解码器层）或宽度（更大的隐藏层尺寸）。1、学习了transformer模型架构，
2024-07-20 22:55:04
204
原创 Datawhale AI 夏令营 task2
在训练过程中发现，train loss不断下降，但val loss会一直上升，过拟合的表现，查了查资料，可以使用学习率衰减、增加dropout、减少层数，后续将会尝试这些操作是否有效。
2024-07-17 20:05:02
118
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人