机器学习笔记 week06

一、哪些方法可以改进学习算法

1、评估假设函数

评估我们的假设函数算法是否过拟合。

将数据分成训练集和测试集，通常用70%的数据作为训练集，用剩下30%的数据作为测试集。

测试集评估在通过训练集让我们的模型学习得出其参数后，对测试集运用该模型，我们有两种方式计算误差：

1.对于线性回归模型，我们利用测试集数据计算代价函数
2.对于逻辑回归模型，我们除了可以利用测试数据集来计算代价函数外：

还有，错误分类的比率，对于每一个测试集实例，计算：

然后对计算结果求平均。

2、模型选择

如何选择假设函数多项式的最高次数。

越高次数的多项式模型越能够适应我们的训练数据集，但是适应训练数据集并不代表着能推广至一般情况，我们应该选择一个更能适应一般情况的模型。我们需要使用交叉验证集来帮助选择模型。
即：使用60%的数据作为训练集（train），使用 20%的数据作为交叉验证集（cv），使用20%的数据作为测试集（test）

模型选择的方法为：

1. 使用训练集训练出10个模型（多项式次数分别为1,2，…，10）
2. 用10个模型分别对交叉验证集计算得出交叉验证误差（代价函数的值）
3. 选取cv集误差最小的模型
4. 用步骤3中选出的模型对测试集计算得出测试集误差（代价函数的值）

训练集/ 交叉验证集/ 测试集误差
Training error:

Cross Validation error:

Test error:

3、诊断偏差和方差

判断一个算法是高偏差还是高方差。

通过将训练集和交叉验证集的代价函数误差与多项式的次数绘制在同一张图表上来帮助分析：

d = 多项式最高次数
对于训练集，当 d 较小时，模型拟合程度更低，误差较大；随着 d 的增长，拟合程度提高，误差减小。
对于交叉验证集，当 d 较小时，模型拟合程度低，误差较大；但是随着 d 的增长，误差呈现先减小后增大的趋势，转折点是我们的模型开始过拟合训练数据集的时候。

可以总结出：
训练集误差和交叉验证集误差近似且都很大时：偏差/欠拟合
交叉验证集误差远大于训练集误差时：方差/过拟合

4、正则化和偏差/方差

在我们在训练模型的过程中，一般会使用一些正则化方法来防止过拟合。但是我们可能会正则化的程度太高或太小了，即我们在选择λ的值时也需要思考与刚才选择多项式模型次数类似的问题。

我们选择一系列的想要测试的 值，通常是 0-10之间的呈现2倍关系的值（如：0，0.01，0.02，0.04，0.08，0.16，0.32，0.64，1.28，2.56，5.12，10.24共12个）。我们同样把数据分为训练集、交叉验证集和测试集。

选择的方法为：
1.使用训练集训练出12个不同程度正则化的模型
2.用12个模型分别对交叉验证集计算的出交叉验证误差
3.选择得出交叉验证误差最小的模型
4.运用步骤3中选出模型对测试集计算得出推广误差，我们也可以同时将训练集和交叉验证集模型的代价函数误差与λ的值绘制在一张图表上：

• 当 λ 较小时，训练集误差较小（过拟合）而交叉验证集误差较大
• 随着 λ 的增加，训练集误差不断增加（欠拟合），而交叉验证集误差则是先减小后增加

5、学习曲线

学习曲线是将训练集误差和交叉验证集误差作为训练集实例数量（m）的函数绘制的图表。
即，如果我们有100行数据，我们从1行数据开始，逐渐学习更多行的数据。思想是：当训练较少行数据的时候，训练的模型将能够非常完美地适应较少的训练数据，但是训练出来的模型却不能很好地适应交叉验证集数据或测试集数据。

①利用学习曲线识别高偏差/欠拟合：作为例子，我们尝试用一条直线来适应下面的数据，可以看出，无论训练集有多么大，误差都不会有太大改观：

总结：在高偏差/欠拟合的情况下，增加数据到训练集不一定能有帮助。

②利用学习曲线识别高方差/过拟合：假设我们使用一个非常高次的多项式模型，并且正则化非常小，可以看出，当交叉验证集误差远大于训练集误差时，往训练集增加更多数据可以提高模型的效果。

总结：在高方差/过拟合的情况下，增加更多数据到训练集可能可以提高算法效果。

6、哪些方法可能有助于改进学习算法的效果，而哪些可能是徒劳的呢？

提出的六种可选的操作，让我们来看一看我们在什么情况下应该怎样选择：

1. 获得更多的训练实例——解决高方差
2. 尝试减少特征的数量——解决高方差
3. 尝试获得更多的特征——解决高偏差
4. 尝试增加多项式特征——解决高偏差
5. 尝试减少正则化程度λ——解决高偏差
6. 尝试增加正则化程度λ——解决高方差