Keras中的EarlyStopping

EarlyStopping（早停）作用：如果设置了一个很大的epochs的时候，在模型训练到一半epochs的时候，accuracy或者loss已经不再变化，模型甚至有出现过拟合迹象。EarlyStopping就可以提前终止训练。

参数：

keras.callbacks.EarlyStopping( monitor='val_loss', patience=0, verbose=0, mode='auto')

monitor:指可监测的值，如：accuracy，val_loss , val_accuracy 

patience：中文意思忍耐，很形象。需要填写 int 值。是指能够允许后续训练的几个epoch比当前的大或者小。当monitor=‘val_loss’，patience=3。如下图，16,17,18 （共3个epoch就是指patience=3）比15的val_loss要大。就触发早停，停止训练。

 

verbose：信息展示模式

mode：‘auto’，‘min’，‘max’之一，当监测值为val_accuracy时，模式应为max，当监测值为val_loss时，模式应为min。在auto模式下，评价准则由被监测值的名字自动推断。

 

 

附手写数字mnist代码实现EarlyStopping：

# -*- coding: utf-8 -*-
import numpy   #导入数据库
from keras.datasets import mnist
from keras.models import Sequential
from keras.layers import Dense
from keras.layers import Dropout
from keras.utils import np_utils
from keras.callbacks import EarlyStopping
 
seed = 7   #设置随机种子
numpy.random.seed(seed)
 
(X_train, y_train), (X_test, y_test) = mnist.load_data(path='mnist.npz') #加载数据
 
num_pixels = X_train.shape[1] * X_train.shape[2]
X_train = X_train.reshape(X_train.shape[0], num_pixels).astype('float32')
X_test = X_test.reshape(X_test.shape[0], num_pixels).astype('float32')
#数据集是3维的向量（instance length,width,height).对于多层感知机，模型的输入是二维的向量，因此这
#里需要将数据集reshape，即将28*28的向量转成784长度的数组。可以用numpy的reshape函数轻松实现这个过
#程。
 
#给定的像素的灰度值在0-255，为了使模型的训练效果更好，通常将数值归一化映射到0-1。
X_train = X_train / 255
X_test = X_test / 255
 
#最后，模型的输出是对每个类别的打分预测，对于分类结果从0-9的每个类别都有一个预测分值，表示将模型
#输入预测为该类的概率大小，概率越大可信度越高。由于原始的数据标签是0-9的整数值，通常将其表示成#0ne-hot向量。如第一个训练数据的标签为5，one-hot表示为[0,0,0,0,0,1,0,0,0,0]。
 
y_train = np_utils.to_categorical(y_train)
y_test = np_utils.to_categorical(y_test)
num_classes = y_test.shape[1]
 
#现在需要做得就是搭建神经网络模型了，创建一个函数，建立含有一个隐层的神经网络。
# define baseline model
def baseline_model():
    # create model
    model = Sequential()
    model.add(Dense(num_pixels, input_dim=num_pixels, kernel_initializer='normal', activation='relu'))
    model.add(Dropout(rate=0.5))
    model.add(Dense(num_classes, kernel_initializer='normal', activation='softmax'))
    # Compile model
    model.compile(loss='categorical_crossentropy', optimizer='adam', metrics=['accuracy'])
    return model
 
#型的隐含层含有784个节点，接受的输入长度也是784（28*28），最后用softmax函数将预测结果转换为标签
#的概率值。 
#将训练数据fit到模型，设置了迭代轮数，每轮200个训练样本，将测试集作为验证集，并查看训练的效果。
 
# build the model
model = baseline_model()

EarlyStop=EarlyStopping(monitor='val_accuracy', patience=3,verbose=1, mode='max')

# Fit the model
history=model.fit(X_train, y_train, validation_data=(X_test, y_test), epochs=30, batch_size=200,callbacks=[EarlyStop],verbose=2)
# Final evaluation of the model
scores = model.evaluate(X_test, y_test, verbose=0)
print("Baseline Error: %.2f%%" % (100-scores[1]*100))