机器学习笔记3

3.1 3.2线性回归模型

利用给出的数据拟合一条直线

 分类问题只有少数几个可能的输出，而回归问题可能有很多输出。

 上标是用来表达第几个数据。与次方无关。

y-hat代表的是预测值，如在房价预测中，房子在出售之前我们是不会知道这个房子的最终售价的，只是根据模型得出的预测房价。

3.3 代价函数公式cote function

 可以调整w和b的值来调整模型，w被称为系数， b有时也被称为权重。

 衡量一条线（模型）与训练数据的拟合程度，模型的参数是w和b。

 我们的目标是找到使J（w，b）最小的w和b。

3.4 理解成本函数

首先我们先将模型进行简化，先令b为0。我们的目标是找到使代价函数最小的w。

 

 

 根据给出的数据选择不同的w，绘制出二维的代价函数图像，代价函数的自变量是w。

 从图上可以看出当w为1时代价函数最小。故我们选择w为1。

3.5 可视化代价函数

这部分的代价函数是包括b参数的。

 

 

 3.6 可视化例子

可以看见第一个拟合的模型拟合程度并不好，代价很高。

做了改正后这个模型的代价有所降低，达到了500

 

最后这个模型拟合的最好，代价不到125。

 

 我们的目的是找到一种可以自动计算出最优的w和b的算法，如梯度下降算法。