机器学习笔记-第一章 单变量线性回归

作为机器学习的新手，斯坦福大学吴恩达教授的《机器学习》视频课程的确很能吸引入门者的兴趣，各个概念讲解的深入浅出。谨以此系列博客记录每一章最核心的知识点。

第一章

机器学习定义：

在计算机上从数据中产生“模型”的算法，有了学习算法，我们把经验数据提供给它，它就能基于这些数据产生模型，在面对新的情况时，模型会给我们提供相应的判断。

机器学习主要分为监督学习和非监督学习两大类：

吴恩达教授的课程不仅阐述解释算法的定义，还会告诉我们应用算法的实用建议。就像介绍了工具，还告诉我们怎么使用这些工具。

监督学习：我们被给定一个数据集并且知道我们正确的输出值应该是什么样，知道输入和输出值之间有一定的关系。
监督学习一般被分为回归和分类。如果我们预测的值是离散值，则此类学习任务就叫做分类，如果预测的是连续值，此类学习任务就叫做回归。

非监督学习：聚类是非监督学习一种代表算法，在没有给定属性特征的前提下，将给出的数据集根据结构的不同，分成所需的几类。
相关应用实例如，社交网络分析，市场客户类别细分，天文数据分析等。

代价函数：
所有实际值到模拟直线的欧几里得距离之和最小，即预测值和实际值差的平方和的求和，这个值要最小。

对于代价函数，假设θ0为0，通过可视化代价函数（呈现开口向上的抛物线），发现实现线性回归目的（代价函数最小）只要取抛物线最低点就可以。

当θ1和θ0都不为零时，代价函数就是一个三维函数，将代价函间隔取值，呈现在二维平面上就是等高线图，某点距离同心圆越近，线性回归的拟合效果就越接近完美状态。