sklearn 使用GridSearchCV实现自动调参,选出最优参数

from sklearn.grid_search import GridSearchCV
from sklearn.svm import SVC
import tflearn
import tflearn.datasets.mnist as mnist
#加载数据
x_train, y_train, x_test, y_test = mnist.load_data(one_hot=False)
#构建模型,选择核函数并训练
clf = SVC()
clf.set_params(kernel='rbf', probability=True).fit(x_train[:1000,:], y_train[:1000])
preds1 = clf.predict(x_test[:1000,:])
print("基准测试集验证得分:"+str(np.mean(preds1 == y_test[:1000])))
#设置即将要变换的参数
param_grid = {'C': [0.0001, 0.001, 0.010.1, 1, 10, 100, 1000], 'gamma': [0.001, 0.0001]}    
#构建自动调参容器,n_jobs参数支持同时多个进程运行并行测试
grid_search = GridSearchCV(clf, param_grid, n_jobs = 1, verbose=10)    
grid_search.fit(x_train[:1000,:], y_train[:1000])
#选出最优参数    
best_parameters = grid_search.best_estimator_.get_params()    
for para, val in list(best_parameters.items()):    
    print(para, val)
#使用最优参数进行训练
clf = SVC(kernel='rbf', C=best_parameters['C'], gamma=best_parameters['gamma'], probability=True).fit(x_train[:1000,:], y_train[:1000])
preds1 = clf.predict(x_test[:1000,:])
print("最优测试集验证得分:"+str(np.mean(preds1 == y_test[:1000])))
  • 4
    点赞
  • 33
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
是的,MLPClassifier 类可以利用交叉验证和网格搜索来选出最优参数。在 scikit-learn 中,可以使用 GridSearchCV 类来进行网格搜索和交叉验证。 GridSearchCV 类可以接收一个模型、一个参数字典和一个交叉验证参数作为输入,并在参数网格中搜索最优参数组合。它可以帮助你自动化地探索多个参数,以获得最佳的模型性能。 以下是一个使用 MLPClassifier 进行网格搜索和交叉验证的示例代码: ``` from sklearn.neural_network import MLPClassifier from sklearn.model_selection import GridSearchCV from sklearn.datasets import make_classification # 生成一个二分类的数据集 X, y = make_classification(n_features=10, random_state=42) # 定义参数字典和 MLPClassifier 模型 param_grid = { 'hidden_layer_sizes': [(10,), (50,), (100,)], 'activation': ['relu', 'tanh', 'logistic'], 'alpha': [0.0001, 0.001, 0.01], } model = MLPClassifier(random_state=42) # 进行网格搜索和交叉验证 grid_search = GridSearchCV(estimator=model, param_grid=param_grid, cv=5) grid_search.fit(X, y) # 输出最优参数最优得分 print('Best parameters: ', grid_search.best_params_) print('Best score: ', grid_search.best_score_) ``` 在上面的示例代码中,我们定义了一个参数字典 `param_grid`,其中包含不同的隐藏层大小、激活函数和正则化参数。然后,我们创建了一个 MLPClassifier 模型,并使用 GridSearchCV 类进行网格搜索和交叉验证,最终输出了最优参数最优得分。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值