数据拟合问题的一般形式:
任给一组离散数据
(注:这里的拟合函数不一定为多项式函数)
记残量的平方和为:
求使得残量平方和最小得一组系数就是线性最小二乘问题,
求解:利用偏导数为零得到极值点的原理可以得到最小二乘问题满足的方程组,求解方程组中未知系数(也就是拟合函数中的参数)即可。
点集函数的内积:
![44847f71f2025af7968539265baa484e.png](https://i-blog.csdnimg.cn/blog_migrate/03944e3a8fc2af3663fe494e2a3b09fb.jpeg)
内积的三条基本性质:1.非负性 2.对称性 3.线性性
通过引入点集函数的内积,便可将上面的方程组写成矩阵的形式:
![df4de4e1e65b31a93e48b828525e8940.png](https://i-blog.csdnimg.cn/blog_migrate/d000e1bd3a0bcc47a0ca50836f03982e.jpeg)
上面的系数矩阵被称为Gram矩阵
![9f4c871bd3d8f2a0d846d101fe5cc258.png](https://i-blog.csdnimg.cn/blog_migrate/941991c387f60da6a3ec80944d0358d4.jpeg)
![ed0a986d0353b8079894f6ba97de8723.png](https://i-blog.csdnimg.cn/blog_migrate/b5cf863829caf26d34e32991d1db3706.jpeg)
注意:仅凭函数系的线性无关性推不出Gram矩阵非奇异
如:
故必须加上下面的Haar(哈尔)条件:
函数系
定理:若函数系在该点集上满足Harr条件,则得到的Gram矩阵是可逆的。