神经网络③——sklearn参数介绍及应用

神经网络系列目录：
神经网络①——神经网络原理介绍（BP算法）
神经网络②——python实现神经网络
神经网络实战④——主播综合评分回归预测实战
最小二乘法&梯度下降法区别及python实现

一、MLPClassifier&MLPRegressor参数和方法（文末有大礼赠送）

 MLPClassifier(solver=’sgd’, activation=’relu’,alpha=1e-4,hidden_layer_sizes=(50,50), random_state=1,max_iter=10,learning_rate_init=.1)

参数说明（分类和回归参数一致）：

1. hidden_layer_sizes :例如hidden_layer_sizes=(50, 50)，表示有两层隐藏层，第一层隐藏层有50个神经元，第二层也有50个神经元。
2. activation :激活函数,{‘identity’, ‘logistic’, ‘tanh’, ‘relu’}, 默认relu

• identity：f(x) = x
• logistic：其实就是sigmod,f(x) = 1 / (1 + exp(-x)).
• tanh：f(x) = tanh(x).
• relu：f(x) = max(0, x)

3. solver： 权重优化器，{‘lbfgs’, ‘sgd’, ‘adam’}, 默认adam

• lbfgs：quasi-Newton方法的优化器
• sgd：随机梯度下降
• adam： Kingma, Diederik, and Jimmy Ba提出的机遇随机梯度的优化器
  注意：默认solver ‘adam’在相对较大的数据集上效果比较好（几千个样本或者更多），对小数据集来说，lbfgs收敛更快效果也更好。

4. alpha :float,可选的，默认0.0001,正则化项参数
5. batch_size : int , 可选的，默认’auto’,随机优化的minibatches的大小batch_size=min(200,n_samples)，如果solver是’lbfgs’，分类器将不使用minibatch
6. learning_rate :学习率,用于权重更新,只有当solver为’sgd’时使用，{‘constant’，’invscaling’, ‘adaptiv