本文探讨了机器学习中的超参数调优，包括手动调优、网格搜索、随机搜索和贝叶斯方法。手动调优需要专业知识，网格搜索通过穷举搜索超参数组合，随机搜索则更有效率，尤其在不重要的参数维度。贝叶斯方法利用后验概率选择模型，倾向于简单模型。当遇到模型欠拟合或训练误差高时，可尝试增加模型复杂度或检查错误。
本文主要介绍机器学习模型中超级参数(hyperparameter)的调优问题（下文简称为调参问题），主要的方法有手动调优、网格搜索、随机搜索以及基于贝叶斯的参数调优方法。因为模型通常由它的超级参数确定，所以从更高的角度看调参问题就转化为模型选择问题。
手动调优
需要较多专业背景知识。
网格搜索
先固定一个超参，然后对其他各个超参依次进行穷举搜索，超参集合为
H={
h1,h2,
最低0.47元/天 解锁文章
扫一扫
评论
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
查看更多评论
添加红包
