机器学习的应用建议
好久没有更新机器学习的学习笔记了,上一次还是更新的神经网络的部分。这一次我们来聊一聊,机器学习的应用建议。
决定下一步做什么
假设我们需要用一个线性回归模型(Linear Regression)来预测房价,当我们运用训练好了的模型来预测未知数据的时候,发现有较大的误差,我们下一步可以做什么?
- 获得更多的训练实例——通常是有效的,但是代价较大,下面的方法也可能有效,可以考虑优先采用下面的几种方法。
- 尝试减少特征的数量
- 尝试获得更多的特征
- 尝试增加二项式特征
- 尝试减少归一化程度λ
- 尝试增加归一化程度λ
假设的评估(Evaluating A Hypothesis)
过拟合检验
为了检验算法是否过拟合,我们将数据分成训练集和测试集,通常用70%的数据作为训练集,剩下30%的数据作为测试集。很重要的一点是,训练集和测试集均要含有各种类型的数据,通常我们对数据要进行“洗牌”,然后再分成训练集和测试集。
测试集评估
在通过训练集让我们的模型学习得出其参数后,对测试集运用该模型,我们有两种方式计算误差:
- 对于线性回归模型,我们利用测试集数据计算代价函数J
- 对于逻辑回归模型,我们除了可以利用测试数据集来计算代价函数外:
还可以计算错误分类的比率,对于每一个测试集实例,计算:
然后对计算结果求平均。
模型选择(交叉验证集)
假设我们要在10个不同次数的二项式模型之间进行选择:
显然越高次数的二项式模型越能够适应我们的训练数据集,但是适应训练数据集并不代表着能推广至一般情况,我们应该选择一个更能适应一般情况的模型。我们需要使用交叉验证集来帮助选择模型,即:
- 使用60%的数据作为训练集
- 使用20%的数据作为交叉验证集
- 使用20%的数据作为测试集
- 使用训练集训练出10个模型
- 用10个模型分别对交叉验证集计算得出交叉验证误差(代价函数的值)
- 选取代价函数值最小的模型
- 用上面步骤3中选出的模型对测试集计算得出推广误差(代价函数的值)
偏倚和偏差诊断(Diagnosis Bias VS. Variance)
高偏倚和高偏差的问题基本上来说就是低拟合和过拟合的问题。
我们通常会通过将训练集和交叉验证集的代价函数误差与多项式的次数绘制在同一张图表上来帮助分析:
- 对于训练集,当d较小时,模型拟合程度更低,误差较大;随着d的增长,拟合程度提高,误差减小。
- 对于交叉验证集,当d较小时,模型拟合程度低,误差较大;随着d的增长,误差呈现先减小后增大的趋势,转折点是我们的模型开始过拟合训练数据集的时候。
根据上面的图表,我们知道:
- 训练集误差和交叉验证集误差相近时:偏倚/低拟合
- 交叉验证集误差远大于训练集误差时:偏差/过拟合
归一化与偏倚/偏差
在我们在训练模型的过程中,一般会使用一些归一化的方法来防止过拟合。但是我们可能归一化的程度太高或太小了,即我们再选择λ的值时也需要思考与刚才选择多项式模型次数类似的问题。
我们选择一系列的想要测试的λ值,通常是在0-10之间的呈现2倍关系的值,如:0,0.01,0.02,0.04,0.08,0.16,0.32,0.64,1.28,2.56,5.12,10 共12个。
我们同样把数据分为训练集、交叉验证集和测试集。
选择λ的方法为:
- 使用训练集训练处12个不同程度归一化的模型
- 用12个模型分别对交叉验证集计算得出交叉验证误差
- 选择得出交叉验证误差最小的模型
- 运用步骤3中选出的模型对测试及计算得出推广误差
- 当λ较小时,训练集误差较小(过拟合)而交叉验证集误差较大
- 随着λ的增加,训练集误差不断增加(低拟合),而交叉验证集误差则是先减小后增加
- 获得更多的训练实例——解决高偏差
- 尝试减少特征的数量——解决高偏差
- 尝试获得更多的特征——解决高偏倚
- 尝试增加二项式特征——解决高偏倚
- 尝试减少归一化程度——解决高偏倚
- 尝试增加归一化程度——解决高偏差
- 使用较小的神经网络,类似于参数较少的情况,容易导致高偏倚和低拟合,但计算代价较小
- 使用较大的神经网络,类似于参数较多的情况,容易导致高偏差和过拟合,虽然计算代价比较大,但是可以通过归一化手段来调整而更加适应数据