主要参考维基百科
最小二乘法,也叫作最小平方法(这样比较好理解)是一种数学优化技术。主要是通过最小化误差的平方和寻找数据的最佳函数匹配。
利用最小二乘法可以简便的求得未知的数据,并且使得这些求得的数据与实际数据之间误差的平方和为最小。
最小二乘法是对过度确定系统,即其中存在比未知数据更多的方程组,以回归分析求得近似解的标准方法。在这整个解决方案中,最小二乘法演算为每一方程式的结果中,将残差平方和的综合最小化。
最重要的应用是在曲线拟合上。最小平方所涵义的最佳拟合也就是残差(残差为:观测值与模型提供的拟合值之间的差距)平方总和的最小化。当问题在自变量有重大不确定性时,那么使用简易回归和最小二乘法会发生问题;在这种情况下,须另外考虑变量-误差-拟合模型所需的方法,而不是最小二乘法。