六、函数逼近

1 多项式拟合

对给定的数据组$(x_i,y_i)(i=1,2,\dots ,n)$，求一个$m$次多项式$(m<n)$：

$$P_m(x)=a_0+a_{1}x+\cdots +a_m{x}^m(6-3)$$

使得：

$$\sum _{i=1}^n{\delta }_i^2=\sum _{i=1}^n[y_i-P_m(x_i){]}^2=F(a_0,a_1,\dots ,a_m)(6-4)$$

为最小，即选取参数$a_i(i=0,1,\dots ,m)$，使得：

$$F(a_0,a_1,\cdots ,a_m)=\sum _{i=1}^n[y_i-P_m(x_i){]}^2=\underset{\psi \in H}{\min }\sum _{i=1}^n[y_i-\psi (x_i){]}^2$$

其中H为至多m次多项式集合。这就是数据的多项式拟合，$P_m(x)$称为这组数据的最小二乘m次拟合多项式。

由多元函数取极值的必要条件，得方程组：

$$\frac{\partial F}{\partial a_j}=-2\sum _{i=1}^n[y_i-\sum _{k=0}^m{a}_k{x}_i^k]x_i^j=0(j=0,1,\cdots ,m)$$

移项得：

$$\sum _{k=0}^m{a}_k(\sum _{i=1}^n{x}_i^{k+j})=\sum _{i=1}^n{y}_i{x}_i^j(j=0,1,\cdots ,m)$$

即：

$$\{\begin{array}{l}n{a}_0+a_1\sum _{i=1}^n{x}_i+a_2\sum _{i=1}^n{x}_i^2+\cdots +a_m\sum _{i=1}^n{x}_i^m=\sum _{i=1}^n{y}_i\\ a_0\sum _{i=1}^n{x}_i+a_1\sum _{i=1}^n{x}_i^2+a_2\sum _{i=1}^n{x}_i^3+\cdots +a_m\sum _{i=1}^n{x}_i^{m+1}=\sum _{i=1}^n{y}_i{x}_i\\ \cdots \cdots \cdots \cdots \cdots \\ a_0\sum _{i=1}^n{x}_i^m+a_1\sum _{i=1}^n{x}_i^{m+1}+a_2\sum _{i=1}^n{x}_i^{m+2}+\cdots +a_m\sum _{i=1}^n{x}_i^{2m}=\sum _{i=1}^n{y}_i{x}_i^m\end{array}(6-5)$$

这是最小二乘拟合多项式的系数 $a_k(k=0,1,\dots ,m)$ 应满足的方程组，称为正则方程组或法方程组。

待补充

最小二乘法的正则方程组一般是病态的，当m较大时更是如此，这使得按上述过程求解时误差较大。如果适当地选取${\varphi }_k(x)(k=0,1,\dots ,m)$，使得：

$$\begin{gathered} ({\phi }_k,{\phi }_k)=\sum _{i=1}^n{w}_i{\phi }_k^2(x_i)(k=0,1,\dots ,m) \\ ({\phi }_k,{\phi }_k)=0(k\ne j)(6-11) \end{gathered}$$

则方程组（6-10）的系数矩阵成对角形，正则方程组（6-9）极易解出，其解为：

$$a_k=\frac{(y,{\phi }_k)}{({\phi }_k,{\phi }_k)}=\frac{\sum _{i=1}^n{w}_i{y}_i{\phi }_k(x_i)}{\sum _{i=1}^n{w}_i{\phi }_k^2(x_i)}(k=0,1,\cdots ,m)(6-12)$$

最小二乘函数为：

$$\phi (x)=\sum _{k=0}^m{a}_k{\phi }_k(x)=\sum _{k=0}^m\frac{(y,{\phi }_k)}{({\phi }_k,{\phi }_k)}{\phi }_k(x)(6-13)$$

定义6.1

称满足条件（6-11）的函数族${\phi }_0(x),{\phi }_1(x),\cdots ,{\phi }_m(x)$为以 { w i }   ( i = 1 , 2 , ⋯   , n ) \{w_i\}\ (i=1,2,\cdots,n) {wi​} (i=1,2,⋯,n)为权关于点集 { x 1 , x 2 , ⋯   , x n } \{x_1,x_2,\cdots,x_n\} {x1​,x2​,⋯,xn​}的正交函数族。

类似于定理6.4的证明，可导出下列多项式系：

$$\{\begin{array}{l}{\phi }_0(x)=1\\ {\phi }_1(x)=x-{\alpha }_1\\ {\phi }_k(x)=(x-{\alpha }_k){\phi }_{k-1}(x)-{\beta }_k{\phi }_{k-2}(x)(k=2,3,\cdots ,m)\end{array}(6-14)$$

是以$w_i(i=1,2,\cdots ,n)$为权关于点集 { 5 , x 2 , ⋯   , x n } \{5 ,x_2,\cdots,x_n\} {5,x2​,⋯,xn​}的正交函数族，其中：

$$$$

2

2.2 格拉姆-施密特（Gram-Schmidt）方法

构造正交多项式的一般方法由以下定理给出：

定理 6.4

按以下方式定义的多项式集合 { φ 0 , φ 1 , ⋯   , φ n } \{\varphi_0,\varphi_1,\cdots,\varphi_n\} {φ0​,φ1​,⋯,φn​}是区间$[a,b]$上关于权函数$w(x)\ge 0(w(x)\not\equiv 0)$的正交函数族。

$$\begin{gathered} {\phi }_0(x)=1 \\ {\phi }_1(x)=x-{\alpha }_1 \\ {\phi }_k(x)=(x-{\alpha }_k){\phi }_{k-1}(x)-{\beta }_k{\phi }_{k-2}(x)(k=2,3,\cdots ,n)(6-16) \end{gathered}$$

其中：

$${\alpha }_k=\frac{(x{\phi }_{k-1},{\phi }_{k-1})}{({\phi }_{k-1},{\phi }_{k-1})}$$