课程-计算机语言学

验证集与早停止

把标注数据分成三部分

• 训练集 training set
• 测试集 test set
• 验证集 validation set

1. 训练时，监控验证集错误率
2. 在验证集错误率上升时，提前终止训练，在模型过拟合之前终止训练过程
3. 用测试集上的错误率来衡量模型的推广能力
4. 训练集-测试机-验证集 60：20:20 

思考

模型容量：模型拟合数据的能力