神经网络高阶技巧7--早停(early stopping)与保存最佳模型

早停法这个词，其实我们并不陌生。因为在传统的机器学习中，我们就用到过。例如在一个xgboost,或者lightgbm模型中，为了防止过拟合，我们就会用：

clf = lgb.train(params=param,train_set=trn_data,num_boost_round=50000,
valid_sets=val_data,verbose_eval=1000,early_stopping_rounds=500)

用early_stopping_rounds指定早停轮数，即如果在500轮内验证集指标不提升我们就停止迭代。