吴恩达-机器学习(6)-评估学习算法、偏差与方差、构架垃圾邮件分类器、处理倾斜数据

最新推荐文章于 2024-10-20 16:19:36 发布

仰望星空1994

最新推荐文章于 2024-10-20 16:19:36 发布

阅读量677

点赞数

分类专栏：吴恩达-机器学习笔记文章标签：机器学习模型训练的建议

本文链接：https://blog.csdn.net/u014351944/article/details/82622519

版权

吴恩达-机器学习笔记专栏收录该内容

11 篇文章 1 订阅

订阅专栏

文章目录

Evaluating a Learing Algorithm

Decidding what to try next

当预测新的数据集，效果很差时：

获取更多的训练数据
减小特征数量
尝试获取附加特征
尝试添加多项式特征
尝试减小 $\lambda$
尝试增加 $\lambda$

机器学习诊疗法：可以帮助你知道机器学习算法是否在工作,而且可以知道提高算法性能的最好的方法

Evaluating your hypothesis

将数据集按照7:3的比例分为训练集和测试集

线性回归

逻辑回归

####Model selection and Train/Validation/Test Sets
模型选择,对每个多项式进行训练，选择测试机误差最小的模型，但这并不能评估模型在新的数据集中表现

将数据集分为6:2:2的三段，第一段为训练集，第二段为交叉验证集、第三段为测试集

选择交叉验证误差最小的模型，这就避免使用测试集

Bias vs Variance

Diagnosing bias vs variance

随着多项式的增加,训练集的误差逐渐减小，验证集的误差先减小后增大
高偏差（欠拟合）: $J_{train}(\theta)$ 和 $J_{cv}(\theta)$ 都很高，且 $J_{train}(\theta) \approx J_{cv}(\theta)$
高方差（过拟合）： $J_{train}(\theta)$ 很小， $J_{cv}(\theta)$ 比 $J_{train}(\theta)$ 大很多

Regularization and Bias/Variance

选取模型和 $\lambda$ 的步骤：

创建 $\lambda$ 的列表 (i.e. λ∈{0,0.01,0.02,0.04,0.08,0.16,0.32,0.64,1.28,2.56,5.12,10.24});
创建一组具有不同次方或任何其他变体的模型
遍历所有的 $\lambda$ 和模型学习参数
计算交叉验证集上的 $J_{cv}(\theta)$ (没有正则化)
选择在交叉验证集中产生最低错误的最佳组合。
使用最好的模型和 $\lambda$ ，在测试集上测试性能

Learning Curves

学习曲线是误差和训练集大小的曲线

高偏差时：
小的训练集导致 $J_{train}(\theta)$ 很小 $J_{cv}(\theta)$ 很高
大的训练集导致 $J_{train}(\theta)$ 和 $J_{cv}(\theta)$ 都很高且 $J_{train}(\theta) \approx J_{cv}(\theta)$
当学习算法是高偏差时,增大训练集并不能改善其性能

高方差时:
小的训练集导致 $J_{train}(\theta)$ 很小 $J_{cv}(\theta)$ 很高
随着训练集的增大 $J_{train}(\theta)$ 增大 $J_{cv}(\theta)$ 减小且都不会趋于平稳， $J_{train}(\theta)$ < $J_{cv}(\theta)$ 且差异很大

模型改善方法总结

Building a Spam Classifier

Prioritizing What to Work on

垃圾邮件分类：
给定一组电子邮件数据，我们可以为每个电子邮件构造一个向量。这个向量中的每个元素代表一个单词。向量通常包含10,000到50,000个条目，这是通过查找我们数据集中最常用的单词来收集。如果要在邮件中找到一个单词，我们将分配它各自的条目1，否则如果没有找到，这个条目就是0。一旦我们准备好所有的x向量，我们训练我们的算法，最后，我们可以用它来分类一个邮件是否是垃圾邮件。

如何提高分类器的准确性：