1.定义成本函数(均方误差MSE)(代价函数)
预测值(线性回归模型公式f(x)=wx+b)和真实值差的平方,求和,所有样本求和,但是为了构建一个不会随着训练集大小变大而自动变大的成本函数,我们将计算平均平方误差而不是总平方误差,我们通过像这样除以m来实现。
gpt:成本函数通常表示为损失函数的总和或平均值。下图公式是损失函数
按照惯例,机器学习使用的成本函数实际上是除以2乘以m,这里的额外除以2是为了让我们后面的一些计算看起来更整洁,有无除以2,成本函数(mse均方误差值)仍然有效。
在机器学习中,不同的人会针对不同的应用程序使用不同的成本函数,但是平方误差成本函数是线性回归最常用的 函数
我们现在来探讨线性回归的目标:最小化参数wb,梯度下降法可以使代码自动找到最小参数,找出最完美拟合线
2.梯度下降原理(下山)
1.梯度