最小二乘法

最小二乘法是一种数学优化技术，他通过最小化误差平方和寻找数据的最佳函数匹配，利用最小二乘法可以简便地求得未知数据，并使得这些数据与实际数据之间的误差平方和为最小，最小二乘法还可用于曲线拟合。在解决实际问题时最小二乘法也有着很多的用处。

一、基本原理

最小二乘法的一般提法为：已知 n 组观测数据（x1,y1）,（x2,y2）...........（xn,yn）， 可认为它们满足某一模型 y=g（x）+ε（x），其中 y=g（x）是函数 ，ε（x）=y-g（x）是观测值与函数值得误差，称为误差函数。 那么有 yi是观测值，εi=yi-g（xi）是观测误差。 设 g （x）是含有 p 个参数的拟合函数，则 ε（x）=y- g （x），εi=yi- g （xi），要确定 g （x）中 p 个参数的值，就要使得ni = 1Σεi2=ni = 1Σ（yi- g （xi））2达到最小。 这一方法称为最小二乘法。 特别的，假设拟合函数为：

y*=a1φ1（x）+a2φ2（x）+........asφs（