机器学习-笔记

1.监督学习与无监督学习

监督学习：监督学习是从标记的训练数据来推断一个功能的机器学习任务。通俗的讲就是分析训练数据，以此来对一个新的数据进行推断。

监督学习可以分为两类问题：回归与分类

无监督学习：相比于有监督学习，没有训练数据的过程。

2.代价函数

接下来是对这幅图进行解释，叉叉是我们的我们给出的训练数据的实际数值，而这条直线则是假设函数，尽量与数据点进行拟合，那么代价函数则是假设函数与实际值之间的误差。

y(i)是数据值，h(x)则是假设函数。那么代价函数越小则表明假设函数与实际数据拟合的越好。

3.梯度函数

对于代价函数，我们的目标就是使其越小越好。

以上是梯度下降算法，在上面提到的代价函数里面的两个参数，我们要找到使代价函数最小的两个参数，α是学习速度。

在上面框框中的数据，它的几何意义时这条线的斜率，而最低点就是我们所需要的最小值，而此时的斜率显然为0，还有一个特点我们看到当点越倾向于极值点时，它的斜率也就越倾向于0，那么θ1的变换就越小，当θ1不变时，那么此时的就是最小值。