当数据科学家谈论调整他们的模型时,他们经常讨论调整超参数以提高模型的预测能力。 超参数是您在训练之前定义的关于模型的属性,它在训练过程中是不学习的
(不要与参数混淆,这些参数是在训练过程中学习的)。 随机森林中的树的个数是超参数的一个例子。
在本节中,我们将重点使用基于树的模型作为超参数调优过程的示例,同样的概念也适用于其他模型。一旦我们建立了用spark.ml进行超参数调优的机制,我们将讨论如何优化管道。 让我们先简单介绍一下决策树,然后介绍我们如何在spark.ml中使用它们。
基于树的模型调优
基于树的模型,如决策树、梯度增强树和随机森林
decision trees, gradient boosted trees, and random forests
是相对简单但强大的模型,易于解释(这意味着,很容易解释他们所做的预测)。因此,它们在机器学习任务中很受欢迎。我们很快就会介绍到随机森林,但首先我们需要介绍最基本的决策树。
决策树调优
作为一种比较成熟的解决方案,决策树非常适合于数据挖掘。 它们的构建速度相对较快,具有高度可解释性,并且不变比