从线性回归的角度推导最小二乘法拟合线性系统

已知一组观测值(x,y)，最小二乘法试图寻找一个使得拟合值y'与观测值y差距最小的线性系统，即：

实际推导过程如最小二乘法-公式推导：

 

用协方差和均值即可表示为 

                                                                                          

                                                                                       

现在从线性回归的角度推导这一过程：

很显然了，殊途同归，从另外一个角度也可以推到出拟合的模型。