最小二乘法多元线性回归_不使用微积分推导（线性回归模型）的最小二乘法

简单线性回归模型:

最小二乘估计的经典推导使用微积分来找到 w 和 b ， 最小化误差平方和 :

最小二乘法就是试图找到一条直线，使得所有样本到直线上的欧式距离之和最小。

损失

现在考虑：最大限度地减少误差error 。比如现在预测目标值 Y

注意的是上面的是最小化误差平方的和，而不是平均误差

平均误差需要除以m :

而有些多除以2 是为 了方便求导： ​​

最小二乘估计的经典推导使用微积分来找到 w 和 b ，这里推导不使用微积分，只使用一些冗长的代数

描述推理过程

（1）

(1）加减

, 上式等于

（2）

(2）展开里面的式子

(3)

(3） 整理

(4)

(4) 处理右边的平方

(5)

<