tensorflow超参数优化_4种主流超参数调优技术

作者丨Sivasai Yadav Mudugandla

编辑丨Python遇见机器学习

引言维基百科上说“超参数优化(optimization)或调优(tuning)是为学习算法选择一组最优超参数的问题”

机器学习工作流中最难的部分之一是为模型寻找最佳的超参数。机器学习模型的性能与超参数直接相关。超参数调优越多，得到的模型就越好。调整超参数真的很难又乏味，更是一门艺术而不是科学。

超参数(Hyper-parameter)

超参数是在建立模型时用来控制算法行为的参数。这些参数不能从正常的训练过程中学习。他们需要在训练模型之前被分配。

Dr.Mukesh Rao的超参数样本清单

目录

1. 传统或手动调参

2. 网格搜索

3. 随机搜索

4. 贝叶斯搜索

1. 传统或手动调参

在传统的调优中，我们通过手动检查随机超参数集来训练算法，并选择最适合我们目标的参数集。

让我们看看代码:#importing required librariesfrom sklearn.neighbors import KNeighborsClassifierfrom sklearn.model_selection import train_test_splitfrom sklearn.model_selection import KFold , cross_val_scorefrom sklearn.datasets import load_winewine = load_wine()X = wine.datay = wine.target#splitting the data into train and test setX_train