Python神经网络模型和预测

from sklearn.neural_network import MLPRegressor

hidden_layer_sizes :隐含层尺寸，例如hidden_layer_size=(30,20,20)
activation:激活函数，常用"identity",“logistic”,“tanh”,“relu”
solver:模型优化的方法 ，常用三种："lbfgs"牛顿法,适合小样本、
“sgd”,随机梯度下降法，、
"adam"adaptive自适应动量法（默认方法），适合大样本
alpha:正则化系数/惩罚因子，默认是0.001 1e-4
防止过拟合
学习率:learning_rate 当solver="sgd"需要设置其他不需要设置
learning_rate_init：初始学习率
tol:模型迭代结束条件默认le-4
max_iter:模型训练默认最大迭代次数，默认是200

nn_reg=MLPRegressor(hidden_layer_sizes=(15,20,20),
                   activation="relu",
                   solver="lbfgs",
                   max_iter=1000,
                   tol=0,
                   verbose=False)

nn_reg.fit(X_train,y_train)
y_pred1=nn_reg.predict(X_test)
r2_score(y_test,y_pred1)