tensorflow2.0-将keras中的model封装为sklearn中的模型

tensorflow2.0-keras-入门学习-（1）

将keras中的model封装为sklearn中的模型，进行自动的超参数搜索

第一步：构建生成keras类model的函数，将需要搜索的参数作为形参

def build_model(num_layers=1,layers_size=30,lr=3e-3):
'''
 需要搜索的超参数有:
 num_layers,layers_size,lr
 返回模型
'''
    model = keras.models.Sequential()
    model.add(keras.layers.Dense(layers_size,activation='relu',input_shape=x_train.shape[1:]))
    for _ in range(num_layers-1):
        model.add(keras.layers.Dense(layers_size,activation='relu'))
    model.add(keras.layers.Dense(1))
    optimizer = keras.optimizers.SGD(lr)
    model.compile(loss='mean_squared_error',optimizer=optimizer)
    return model

第二步：使用keras.wrappers.scikit_learnKerasRegressor/keras.wrappers.scikit_learnKerasRegressor函数进行封装，官方API。

sklearn_model = keras.wrappers.scikit_learn.KerasRegressor(build_model)

第三步：定义超参数的搜索空间。采用字典的方式，将第一步build_model函数中的需要搜索的参数定义搜索空间。

from scipy.stats import reciprocal
para_dic = {
    'num_layers':[1,2,3,4],
    'layers_size':np.arange(1,100),
    'lr':reciprocal(1e-4,1e-2),
}

第四步：将之前的skleran模型继续封装，采用sklearn.model_selection中的RandomizedSearchCV，构建一个循环搜索模型，并进行训练。

from sklearn.model_selection import RandomizedSearchCV

rs_cv = RandomizedSearchCV(sklearn_model, para_dic, n_iter=5, n_jobs=1, cv=4)
rs_cv.fit(x_train_scaled,y_train,epochs=20,validation_data=(x_test_scaled, y_test))

可以通过查看rs_cv模型中的属性得到最佳参数

# 获取最佳参数的字典
re_cv.best_params_
# 获取最佳得分
re_cv.best_score_
# 获取最佳模型
re_cv.best_estimator_