最小二乘法求解拟合问题

最小二乘拟合问题的求解。 （第五章）

• 最小二乘法原理

设f(x)是定义在点集X={x1，x2，…, xn}上的列表函数或者f(x)是定义在区间[a,b] 上表达式复杂的连续函数，构造广义多项式：px=c0ϕ0x+c1ϕ1x+⋯+cnϕnx ；

使∥px-fx∥22 达到最小.其中c0, c1, … cn是待定参数，Φi(x)(i=0,1,…,n)是已知的一组线性无关的基函数，取p(x)作为f(x)的近似表达式就是最优平方逼近问题，这时所求得的p(x)为最小二乘函数。

一般,求函数f(x)的最小二乘拟合函数或最优平方逼近函数有三种方法:

(1)根据问题的特点选择一组线性无关的基函数φ0(x),φ1(x),…,φn(x), 通过解正规方程组，求得最小二乘拟合函数或最优平方逼近函数.

(2)利用三项递推关系构造正交多项式g0(x),g1(x),…,gk(x) , 由

px=k=0ngk,fgk,gkgkx

得到最小二乘拟合多项式。

(3)作变量替换,利用已知的正交多项式作为基函数构造拟合函数。

(4)本算例中，通过观察所给数据的散点图发现，当自变量增大9倍时，因变量仅仅增长两倍，说明该数据不具有指数增长型的特点，可以先用正规方程组求解。要求解四次拟合多项式，可构造近似函数为p(x)=c0+c1x+c2x2+c3x3+c4x4 进行计算。

• 算法实现与程序结构

（1）取Φ0=1，Φ1=x, … ,Φ4=x4

（2）计算法方程

（3）由内积定义，可以得到：

当权系数w全部取1时，正规方程组可以表示为:

（4）求解方程，得到多项式，进行误差分析