validation_curve验证曲线与超参数

最新推荐文章于 2024-07-23 11:42:36 发布

农夫左三拳

最新推荐文章于 2024-07-23 11:42:36 发布

阅读量6.4k

点赞数 11

分类专栏：机器学习算法 python

本文链接：https://blog.csdn.net/lvchunyang66/article/details/104411659

版权

validation_curve是用于评估不同超参数对模型性能影响的工具，它位于sklearn.model_selection模块下。通过绘制超参数与验证分数的关系曲线，可以帮助识别模型从欠拟合到过拟合的过程，从而选择最佳超参数。验证曲线与学习曲线的主要区别在于其关注超参数的变化。在实践中，应将数据集划分为train、validation和test，使用validation数据集调优超参数，然后用test数据集评估模型的泛化能力。

摘要由CSDN通过智能技术生成

validation_curve()的位置
在之前，此函数位置在sklearn.learning_curve.validation_curve()，现在，此函数的位置在sklearn.model_selection.validation_curve()。

validation_curve()的作用
我们知道误差是由偏差（bias）、方差（variance）、噪声（noise）组成。
偏差：模型对于不同的训练样本集，预测结果的平均误差
方差：模型对于不同训练样本集的敏感程度
噪声：数据集本身的一项属性
同样的数据，（cos函数上的点加上噪声），我们用同样的模型（polynomial），但是超参数却不同（degree =1,4,15）,会得到不同的拟合效果：
在这里插入图片描述
第一个模型太简单，模型本身就拟合不了这些数据（高偏差，underfitting）；
第二个模型可以看成几乎完美地拟合了数据；
第三个模型完美拟合了几乎所有的训练数据，但却不能很好的拟合真实的函数，也就是对于不同的训练数据很敏感（高方差，overfitting）。
对于以上第一和第三个模型，我们可以选择模型和超参数来得到效果更好的配置，也就是可以通过验证