Machine Learning 课程笔记6：机器学习应用指导

1、决定下一步做什么

假设我们需要用一个线性回归模型来预测房价，然而，当我们用这个模型来预测新数据时发现有较大的误差，那么我们下一步应该怎么做？

1. 获得跟多的训练示例——代价较大，而且有时候获得更多示例does not help
   
2. 尝试减少特征数量——防止过拟合
3. 尝试获得更多特征量
4. 尝试增加二项式特征
5. 尝试减少归一化程度——减小lambda
6. 尝试增加归一化程度——增大lambda

我们需要使用一些机器学习诊断方法来帮助我们找到机器学习算法的问题以及那种解决方法更有效

2、假设的评估

如何判断有没有过拟合？

很多情况下特征量很多，无法画出曲线图来判断，如下给出了一种评估假设的标准方法：

      将数据分成两部分——训练集合测试集。通常用70%的数据作为训练集，剩下为测试集。

      注：注意训练集和数据集均要包含各种类型的数据，通常我们要对数据进行混合打乱后在分成两部分。

测试集评估：

通过训练集让我们的模型学习处参数后，对测试集运用该模型，计算误差：

1.对于现行模型，我们利用测试集数据计算大家函数J

2.对于逻辑回归模型，我们除了可以用公式Ｊ来计算外：