对于最小二乘法的解释

---

WORK BY ALBERT

对于最小二乘法的解释

之前在《遥感原理》课上老师引用了某一位高人（记不清是谁了）对于最小二乘法的解释。这可能是我目前接触到的对于最小二乘法最形象的解释了。

线性方程组的解的三种状态：无解，唯一解和多解（欠定），中学里边，咱们只管唯一解。但实际工作中常常遇到观测数目多于未知数目的情况。这时，信息量常有富余，反而“无解”，显得很傻很天真。所以高斯大侠自创一招“无中生有满天星”剑法，充分利用数据信息冗余（满天星），硬找出一个抗噪声的最优解（无中生有）。高大侠这一招风行天下二百余年，国内最早翻成“最小二乘法”，其实“最小平方误法”，更容易理解，就是在满天星斗的数据点集中，拟合出模型有最小平方误的一套参数，作为最优解。