吴恩达机器学习笔记.Day1

——记录一下自己学到的东西，同时起到一个备忘的作用

一、线性回归模型

线性回归模型类似于我们高中所学的线性回归方程，训练线性回归模型需要训练集和训练集的标号，为了表示单个的训练实例，我们用x加上上标和y加上上标来表示

监督学习的训练集中包括输入特征和输出目标，是对目标的预测。

算法从数据中学习，生成合适的线

这个特定的模型有一个名称叫做线性回归，更准确的来说，叫做单变量线性回归。

二、代价函数公式

为了实现线性回归，我们首先需要考虑一个叫做成本函数的东西，用来表示模型有多好。上文的w和b被称为模型的参数，在机器学习中，模型参数是我们可以调整的变量用来训练和改进模型。通过不同的w和b我们可以得到不同的函数f。

不同的函数必然存在着模型的好坏之分，我们需要一个函数用来统计不同模型的误差，即平方误差成本函数最终我们会找到一个让成本函数变小的w和b。如果成本函数越小的话，那么模型就越好。

三、梯度下降算法

该算法是机器学习的重要算法之一，不仅可以用于训练线性回归模型，也可以用于其他的复杂模型。

如果我有一个成本函数J，我要在w1,w2,w3……b上面确定最小的J值，我们可以先将w和b设为0进行一个初始猜测，我们使用梯度下降算法每次改变w和b从而希望J接近或者达到最小值，事实上有时我们得到的成本函数是复杂的。

我们要做的就是找到J的最低点

我们可以通过放置不同的起点来找最小的J，就像是下山，我们称此为梯度下降，如图，两次不同的起点找到了不同的山谷