【算法推导】普通最小二乘法

论文里用到了FROLS算法，之前阿里简历面的时候，问到了这个算法的推导过程。。。我说的一言难尽，结果自然是凉了，自己编过程序的算法都没说好，哎。回归正题，这篇博客整理一下最小二乘法的一些知识点，再回顾下论文FROLS算法。

参考博客：

https://zhuanlan.zhihu.com/p/21852600

思路：误差方程为di方，分别对a和b求偏导，令偏导数为0，求解得到a和b.

多元线性回归：

为何是最小二乘：（误差函数的选择）

根据最大似然估计得到。

博客地址：

https://blog.csdn.net/v1_vivian/article/details/52006127

优点：

无偏估计

http://bbs.pinggu.org/thread-2164178-1-1.html

优点缺点