机器学习（Coursera吴恩达）（五）

机器学习（Coursera吴恩达）（五）

标签（空格分隔）： 机器学习

---

我们要怎么样选择哪些方法，来改善我们的学习算法。
1. 尝试减少特征数量
2. 尝试获得更多的特征
3. 尝试增加多项式特征
4. 尝试减少正则化程度
5. 尝试增加正则化程度
6. ……
这些方法，应该有判别的方法进行选择，而不是瞎选。

评估一个假设

如何避免过拟合和欠拟合？
将数据集分为三部分：Train_set, Test_set, CrossValidation_set.

模型选择

假设有多个阶数不同的模型：

选择方法：
1. 使用训练集训练出10个模型
2. 分别对cv_set计算得到交叉验证误差（代价函数的值$J_{cv}$）
3. 选取代价函数最小的模型
4. 用3.中选择出的模型对test_set算出推广误差（ Jtest