在预测建模时,确定基线性能(baseline performance)是很重要的。
基线为评估更高级的方法提供了比较的标准。
在本教程中,你将了解如何在 Python 中实现基线机器学习算法(Baseline Machine Learning Algorithms)。学完本教程后,你将了解:
如何实现随机预测(random prediction)算法
如何实现零规则(zero rule prediction)算法
让我们开始吧!
描述
可供选择的机器学习算法有很多。事实上,有上百种。那么在选择算法之前,你需要评价它的预测结果。可是,你如何判断结果的好坏?
答案是使用基线预测算法。如其它预测一样,基线预测算法提供了一组可以评估的预测结果,例如分类准确率(Accuracy)或 RMSE。
这些评价指标的数值为评估所有其它机器学习算法提供了所需的比较标准。
一旦计算出基线预测算法的评价指标,就可以知道一个给定算法比朴素基线算法到底好多少,为评价算法提供了依据。
两种最常用的基线算法是:
随机预测(random prediction)算法
零规则(zero rule prediction)算法
当遇到比传统分类或回归问题更棘手的新问题时,一个好的想法是首先设计一个基于该预测问题特征的随机预测算法。之后你可以在此基础上改进,并设计一个零规则算法。
让我们执行这些算法代码,并看看它们是如何工作的吧。
教程
本教程分为两部分:
随机预测算法
零规则算法
对于实施和计算给定机器学习算法的基线性能,下面的步骤将为你提供必要的基础。
1. 随机预测算法
正如在训练数据中观察到的那样,随机预测算法给出随机的预测结果。这可能是机器学习中最简单的算法。
它要求训练集包含所有可能的因变量结果值,对于自变量取值很多的回归问题,这个集合可能非常大。
因为随机数用于预测,所以最佳的方法是在使用算法之前固定随机数种子。这是为了确保我们获得相同的一组随机数,并且每次运行算法时都得到相同的决策。
下面是随机预测算法在名为 random_algorithm() 的函数中的实现。
该函数的输入参数为两部分:含有因变量数值的训练集和需要预测因变量数值的测试集。
该函数