keras中的callbacks整体学习见:
keras中的callbacks详解
文章目录
1. 认识Early Stop
early stop是训练模型的过程中,避免过拟合,节省训练时间的一种非常场用的方法。
在模型训练的过程中,当模型在训练集上表现很好,在验证集上表现很差的时候,此时就认为模型出现了过拟合(overfitting)的情况。
在这种情况下,early stop有助于保存最优模型,避免过拟合,并能给节省不必要的(过拟合)训练时间。
2. keras中的EarlyStopping
官方api:https://keras.io/api/callbacks/early_stopping/
上图是官方给的使用方法说明,部分参数释义如下:
- monitor: 监控指标,如
val_loss
- min_delta: 认为监控指标有提升的最小提升值。如果变化值小于该值,则认为监控指标没有提升。
- patience: 在监控指标没有提升的情况下,epochs 等待轮数。等待大于该值监控指标始终没有提升,则提前停止训练。
- verbose: log输出方式
- mode: 三选一 {“auto”, “min”, “max”},默认auto。min 模式是在监控指标值不再下降时停止训练;max 模式是指在监控指标值不再上升时停止训练;max 模式是指根据 monitor来自动选择。
- baseline: 监控指标需要到达的baseline值。如果监控指标没有到达该值,则提前停止。
- restore_best_weights: 是否加载训练过程中保存的最优模型权重,如果为False,则使用在训练的最后一步获得的模型权重。
3. EarlyStopping的实现方法
3.1 __init__()
__init__()
方法定义一些必要参数,部分参数在上一节中介绍过的参数这里就不做赘述了
def __init__(self,
monitor='val_loss',
min_delta=0,
patience=0,
verbose=0,
mode='auto',
baseline=None,
restore_best_weights=False):
super(EarlyStopping, self).__init__()
self.monitor = monitor # 监控指标,acc / loss / val_loss
self.baseline &#