数据拟合问题的一般形式:
任给一组离散数据
,设拟合函数为:
,其中
为给定的线性无关函数系,
为要求得的未知参数。
(注:这里的拟合函数不一定为多项式函数)
记残量的平方和为:
求使得残量平方和最小得一组系数就是线性最小二乘问题,
为最小二乘问题得基函数,求得的拟合函数为数据的最小二乘拟合。
求解:利用偏导数为零得到极值点的原理可以得到最小二乘问题满足的方程组,求解方程组中未知系数(也就是拟合函数中的参数)即可。
点集函数的内积:
内积的三条基本性质:1.非负性 2.对称性 3.线性性
通过引入点集函数的内积,便可将上面的方程组写成矩阵的形式:
上面的系数矩阵被称为Gram矩阵
注意:仅凭函数系的线性无关性推不出Gram矩阵非奇异
如:
故必须加上下面的Haar(哈尔)条件:
函数系
的任意线性组合在点集
上至多有n个不同的零点,则称函数系在该点集上满足Harr条件。
定理:若函数系在该点集上满足Harr条件,则得到的Gram矩阵是可逆的。