计算方法（四）：插值与拟合

插值与拟合

插值概念与基础理论

插值问题的提法

给定函数 $f(x)$ 在区间 $[a,b]$ 上的 $n+1$ 个函数值：
$$\begin{array}{ccccc}x& x_0& x_1& \cdots & x_n\\ f(x)& f(x_0)& f(x_1)& \cdots & f(x_n)\end{array}$$
$x_0,x_1,\cdots ,x_n$ 互不相同。$\Phi$ 为给定的某一个函数类。若 $\Phi$ 上有函数 $\phi (x)$，满足
$$\phi (x_i)=f(x_i),i=0,1,2,\cdots ,n$$
则称 $\phi (x)$ 为 $f(x)$ 关于结点 $x_0,x_1,\cdots ,x_n$ 在 $\Phi$ 上的插值函数，$x_0,x_1,\cdots ,x_n$ 称为插值结点，$[a,b]$ 称为插值区间，$f(x)$ 称为被插函数。

根据插值定义，插值函数实际上是一条经过平面上点 $(x_i,f(x_i){)}_{i=0,1,\cdots ,n}$ 的曲线，这条平面曲线函数，就可以作为 $f(x)$ 的逼近函数。

插值函数的存在唯一性：插值函数类 $\Phi$ 为一个函数空间，若插值结点数为 $n+1$，实际上给出了 $n+1$ 个限制条件，为了保证插值函数的存在唯一性，给出的插值函数空间应是 $n+1$ 维的，即 $dim\Phi =n+1$。

任取 $\Phi$ 上 $n+1$ 个线性无关函数 ${\phi }_0(x),{\phi }_1(x),\cdots ,{\phi }_n(x)$，它们可作为 $\Phi$ 的一组基，记为：
Φ = s p a n { φ 0 ( x ) , φ 1 ( x ) , ⋯   , φ n ( x ) } \Phi=span\{\varphi_0(x),\varphi_1(x),\cdots,\varphi_n(x)\} Φ=span{φ0​(x),φ1​(x),⋯,φn​(x)}
于是，任取 $\phi (x)\in \Phi$，则 $\phi (x)$ 可唯一地表为：
$$\phi (x)=a_0{\phi }_0(x)+a_1{\phi }_1(x)+\cdots +a_n{\phi }_n(x)$$
这里 $(a_0,a_1,\cdots ,a_n)$ 称之为 $\phi (x)$ 在基 { φ i ( x ) } i = 1 n \{\varphi_i(x)\}^n_{i=1} {φi​(x)}i=1n​ 下的坐标。

^（*）定理： { x i } i = 0 n \{x_i\}^n_{i=0} {xi​}i=0n​ 为 $[a,b]$ 上 $n+1$ 个互异点， Φ = s p a n { φ 0 ( x ) , φ 1 ( x ) , ⋯   , φ n ( x ) } \Phi=span\{\varphi_0(x),\varphi_1(x),\cdots,\varphi_n(x)\} Φ=span{φ0​(x),φ1​(x),⋯,φn​(x)} 为 $n+1$ 维函数空间，定义在 $[a,b]$ 上的函数 $f(x)$ 关于结点 { x i } i = 0 n \{x_i\}^n_{i=0} {xi​}i=0n​ 在 $\Phi$ 上的插值函数存在且唯一的充要条件为行列式：
$$\left|\begin{array}{cccc}{\phi }_0(x_0)& {\phi }_1(x_0)& \cdots & {\phi }_n(x_0)\\ {\phi }_0(x_1)& {\phi }_1(x_1)& \cdots & {\phi }_n(x_1)\\ & \cdots & \cdots & \\ {\phi }_0(x_{n-1})& {\phi }_1(x_{n-1})& \cdots & {\phi }_n(x_{n-1})\\ {\phi }_0(x_n)& {\phi }_1(x_n)& \cdots & {\phi }_n(x_n)\end{array}\right|\ne 0$$

插值多项式的存在唯一性

记 P n = { a 0 + a 1 x + ⋯ + a n x n ∣ a i ∈ R } P_n=\{a_0+a_1x+\cdots+a_nx^n|a_i\in R\} Pn​={a0​+a1​x+⋯+an​xn∣ai​∈R}，则 $P_n$ 为一个 $n+1$ 维的线性空间（$n$ 次多项式空间）。

若 { x i } i = 0 n \{x_i\}^n_{i=0} {xi​}i=0n​ 为 $[a,b]$ 上互异点，$f(x)$ 为定义在 $[a,b]$ 上的函数，若有 $P_n(x)\in P_n$，满足 $P_n(x_i)=f(x_i),i=0,1,\cdots ,n$，则称 $P_n(x)$ 为 $f(x)$ 关于结点 { x i } i = 0 n \{x_i\}^n_{i=0} {xi​}i=0n​ 的 $n$ 次插值多项式。

定理1：$f(x)$ 关于 $n+1$ 个互异结点 { x i } i = 0 n \{x_i\}^n_{i=0} {xi​}i=0n​ 的 $n$ 次插值多项式存在且唯一。

证明：设插值多项式：$P_n(x)=a_0+a_{1}x+\cdots +a_n{x}^n$，满足 $a_0+a_1{x}_i+\cdots +a_n{x}_i^n=f(x_i),i=0,1,\cdots ,n$，而
$$D=\left|\begin{array}{ccccc}1& x_0& x_0^2& \cdots & x_0^n\\ 1& x_1& x_1^2& \cdots & x_1^n\\ ⋮& ⋮& ⋮& & ⋮\\ 1& x_n& x_n^2& \cdots & x_n^n\end{array}\right|=\prod _{n\ge i>j\ge 0}(x_i-x_j)\ne 0$$
由克莱姆法则得 $a_0,a_1,\cdots ,a_n$ 存在唯一，即 $P_n$ 上存在且唯一的有 $P_n(x)$，满足 $P_n(x_i)=f(x_i),i=0,1,\cdots ,n$。

同时，$n$ 次插值多项式 $P(x)$ 可表示为 $P_n(x)=a_0+a_{1}x+\cdots +a_n{x}^n$，其中 $a_i=\frac{D_i}{D},i=0,1,2,\cdots ,n$。
$$D_i=\left|\begin{array}{cccccccc}1& x_0& \cdots & x_0^{i-1}& f(x_0)& x_0^{i+1}& \cdots & x_0^n\\ 1& x_1& \cdots & x_1^{i-1}& f(x_1)& x_1^{i+1}& \cdots & x_1^n\\ & & & \cdots & \cdots & & & \\ 1& x_n& \cdots & x_n^{i-1}& f(x_n)& x_n^{i+1}& \cdots & x_n^n\end{array}\right|$$

插值余项

$R_n(x)=f(x)-P_n(x)$ 称为插值余项（或称误差）。

定理2：若 $f\in C^{n+1}[a,b]$，互异点 { x i } i = 0 n ⊂ [ a , b ] \{x_i\}^n_{i=0}\subset[a,b] {xi​}i=0n​⊂[a,b]，则 $f(x)$ 以 { x i } i = 0 n \{x_i\}^n_{i=0} {xi​}i=0n​ 为插值结点的 $n$ 次插值多项式余项：
R n ( x ) = f ( n + 1 ) ( ξ ) ( n + 1 ) ! ( x − x 0 ) ( x − x 1 ) ⋯ ( x − x n ) 其 中 ： m i n { x 0 , x 1 , ⋯   , x n , x } ≤ ξ = ξ ( x ) ≤ m a x { x 0 , x 1 , ⋯   , x n , x } R_n(x)=\frac{f^{(n+1)}(\xi)}{(n+1)!}(x-x_0)(x-x_1)\cdots(x-x_n)\\其中：min\{x_0,x_1,\cdots,x_n,x\}\leq\xi=\xi(x)\leq max\{x_0,x_1,\cdots,x_n,x\} Rn​(x)=(n+1)!f(n+1)(ξ)​(x−x0​)(x−x1​)⋯(x−xn​)其中：min{x0​,x1​,⋯,xn​,x}≤ξ=ξ(x)≤max{x0​,x1​,⋯,xn​,x}
推论： 若 $f(x)\in C^{(n+1)}[a,b]$，且 $|f^{(n+1)}(x)|\le M_{n+1}(a\le x\le b)$，则 $f(x)$ 以 { x i } i = 0 n \{x_i\}^n_{i=0} {xi​}i=0n​ 为插值结点的 $n$ 次插值多项式余项
$$|R_n(x)|\le \frac{M_{n+1}}{(n+1)!}|{\omega }_{n+1}(x)|$$
其中：${\omega }_{n+1}(x)={\prod }_{i=0}^n(x-x_i)$

注： 若插值点 $x$ 位于插值区间 $[mi{n}_{1\le i\le n}{x}_i,ma{x}_{1\le i\le n}{x}_i]$ 内，则该插值过程称为内插，否则称为外插。一般情况下，内插效果要比外插好一点，所以，插值结点尽可能选取在插值区间内。

插值多项式的求法

拉格朗日(Lagrange)型插值多项式

对于给定的 $n+1$ 个互异结点 { x i } i = 0 n \{x_i\}^n_{i=0} {xi​}i=0n​，如果能找到 $P_n$ 上 $n+1$ 个多项式 { l i ( x ) } i = 0 n \{l_i(x)\}^n_{i=0} {li​(x)}i=0n​，满足
$$l_i(x_j)={\delta }_{ij}=\{\begin{array}{l}1,i=j\\ 0,i\ne j\end{array},i,j=0,1,\cdots ,n$$
那么 $L_n(x)={\sum }_{i=0}^n{l}_i(x)f(x_i)$ 就是 $f(x)$ 关于结点 { x i } i = 0 n \{x_i\}^n_{i=0} {xi​}i=0n​ 的 $n$ 次插值多项式。其中， { l i ( x ) } i = 0 n ⊂ P n \{l_i(x)\}^n_{i=0}\subset P_n {li​(x)}i=0n​⊂Pn​，有 ${\sum }_{i=0}^n{l}_i(x)f(x_i)\in P_n$，且有
$$L_n(x_k)=\sum _{i=0}^n{l}_i(x_k)f(x_i)=f(x_k),k=0,1,\cdots ,n$$
$l_i(x)$ 的构造：$l_i(x_j)=0(j\ne i)$：
$$l_i(x)=\prod _{j=0,j\ne i}^n\frac{x-x_j}{x_i-x_j}=\frac{(x-x_0)\cdots (x-x_{i-1})(x-x_{i+1})\cdots (x-x_n)}{(x_i-x_0)\cdots (x_i-x_{i-1})(x_i-x_{i+1})\cdots (x_i-x_n)}$$
{ l i ( x ) } i = 0 n \{l_i(x)\}^n_{i=0} {li​(x)}i=0n​ 是一组线性无关的函数，可作为 $P_n$ 的一组基，称为关于结点 { x i } i = 0 n \{x_i\}^n_{i=0} {xi​}i=0n​的Lagrange基，其插值多项式称为Lagrange型插值多项式，记为 $L_n(x,f)$ 或 $L_n(x)$，即
$$L_n(x)=\sum _{i=0}^n{l}_i(x)f(x_i)=\sum _{i=0}^n(\prod _{j=0,j\ne i}^n\frac{x-x_j}{x_i-x_j})f(x_i)$$
记 ${\omega }_{n+1}(x)=(x-x_0)(x-x_1)\cdots (x-x_n),{\omega }_{n+1}^{\prime }(x_i)={\prod }_{j=0,j\ne i}^n(x_i-x_j)$，得
$$\begin{gathered} l_i(x)=\frac{{\omega }_{n+1}(x)}{(x-x_i){\omega }_{n+1}^{\prime }(x_i)} \\ {L}_n(x)=\sum _{i=0}^n\frac{{\omega }_{n+1}(x)}{(x-x_i){\omega }_{n+1}^{\prime }(x_i)}f(x_i) \end{gathered}$$
当 $n=1$ 时，可得 $f(x)$ 关于 $x_0,x_1$ 的线性插值多项式的Lagrange型式：
$$L_1(x)=\frac{x-x_1}{x_0-x_1}f(x_0)+\frac{x-x_0}{x_1-x_0}f(x_1)$$
当 $n=2$ 时，可得 $f(x)$ 关于 $x_0,x_1,x_2$ 的线性插值多项式的Lagrange型式：
$$\begin{gathered} L_2(x)=l_0(x)f(x_0)+l_1(x)f(x_1)+l_{2}f(x_2) \\ =\frac{(x-x_1)(x-x_2)}{(x_0-x_1)(x_0-x_2)}f(x_0)+\frac{(x-x_0)(x-x_2)}{(x_1-x_0)(x_1-x_2)}f(x_1)+\frac{(x-x_0)(x-x_1)}{(x_2-x_0)(x_2-x_1)}f(x_2) \end{gathered}$$

三点插值又称抛物插值。

误差的事后估计方法： 定理 2 给出了当被插函数充分光滑时的插值误差表达式，推论给出了误差的界。但在实际计算中，涉及到高价导数，很难给出较精确的估计，所以常用误差的事后估计。

记 $L_n(x)$ 为 $f(x)$ 以 $x_0,x_1，\cdots ,x_n$ 为结点的插值多项式，对确定的 $x$，我们需要对误差 $f(x)-L_n(x)$ 做出估计。为此，另取一个结点 $x_{n+1}$，记 $L_n^{(1)}(x)$ 为 $f(x)$ 以 $x_1,x_2,\cdots ,x_n,x_{n+1}$ 为结点的插值多项式，由定理2，可得到：
$$\begin{gathered} f(x)-L_n(x)=\frac{f^{(n+1)}(\xi )}{(n+1)!}(x-x_0)(x-x_1)\cdots (x-x_n) \\ f(x)-L_n^{(1)}(x)=\frac{f^{(n+1)}({\xi }_2)}{(n+1)!}(x-x_1)(x-x_2)\cdots (x-x_n)(x-x_{n+1}) \end{gathered}$$
若 $f^{(n+1)}(x)$ 在插值区间上变化不大时，则：
$$\begin{gathered} \frac{f(x)-L_n(x)}{f(x)-L_n^{(1)}(x)}\approx \frac{x-x_0}{x-x_{n+1}} \\ (x-x_{n+1})(f(x)-L_n(x))\approx (x-x_0)(f(x)-L_n^{(1)}(x)) \\ f(x)\approx \frac{x-x_{n+1}}{x_0-x_{n+1}}{L}_n(x)+\frac{x-x_0}{x_{n+1}-x_0}{L}_n^{(1)}(x) \\ 即：f(x)-L_n(x)\approx \frac{x-x_0}{x_0-x_{n+1}}(L_n(x)-L_n^{(1)}(x)) \end{gathered}$$
上式较好地给出了插值误差的实际估计。

差商与牛顿基本插值多项式

对于给定的 $n+1$ 个结点 $x_0,x_1,\cdots ,x_n$，考虑 $n$ 次多项式：$N_n(x)=a_0+a_1(x-x_0)+a_2(x-x_0)(x-x_1)+\cdots +a_n(x-x_0)(x-x_1)\cdots (x-x_{n-1})$ 满足插值条件：$N_n(x_i)=f(x_i)=y_i,i=0,1,\cdots ,n$，称 $N_n(x)$ 是以 $x_0,x_1,\cdots ,x_n$ 为结点的 $n$ 次牛顿型插值多项式。

定义1：设函数 $f(x)$ 在点 $x_0,x_1,x_2,\cdots$ 上的值依次为 $f(x_0),f(x_1),f(x_2),\cdots$，则称
$$f[x_i,x_j]=\frac{f(x_j)-f(x_i)}{x_j-x_i}$$
为 $f(x)$ 在 $x_i,x_i$ 处的一阶差商。称
$$f[x_i,x_j,x_k]=\frac{f[x_j,x_k]-f[x_i,x_j]}{x_k-x_i}$$
为 $f(x)$ 在 $x_i,x_j,x_k$ 处的二阶差商。一般地，称 $m-1$ 阶差商的差商：
$$f[x_{i0},x_{i1},\cdots ,x_{im}]=\frac{f[x_{i1},\cdots ,x_{im}]-f[x_{i0},\cdots ,x_{im-1}]}{x_{im}-x_{i0}}$$
为 $f(x)$ 在 $x_{i0},x_{i1},\cdots ,x_{im}$ 处的 $m$ 阶差商。

特别的，规定零阶差商为：$f[x_i]=f(x_i)$。

通过归纳法，$m$ 阶差商可表示成 $f(x_0),f(x_1),\cdots ,f(x_m)$ 的线性组合：
$$f[x_0,x_1,\cdots ,x_m]=\sum _{j=0}^m\frac{f(x_j)}{(x_j-x_0)\cdots (x_j-x_{j-1})(x_j-x_{j+1})\cdots (x_j-x_m)}$$

差商具有对称性：任意调换结点的次序，不影响差商的值。 例如：
$$f[x_0,x_1,x_2]=f[x_1,x_2,x_0]=f[x_1,x_0,x_2]$$
由插值条件 $N_n(x_i)=f(x_i)$，可得
$$\begin{gathered} N_n(x_0)=a_0=f(x_0)\to a_0=f(x_0) \\ {N}_n(x_1)=a_0+a_1(x_1-x_0)=f(x_1)\to a_1=\frac{f(x_1)-f(x_0)}{x_1-x_0}=f[x_0,x_1] \\ {N}_n(x_2)=a_0+a_1(x_2-x_0)+a_2(x_2-x_0)(x_2-x_1)=f(x_2)\to a_2=\frac{f[x_0,x_2]-f[x_0,x_1]}{x_2-x_0}=f[x_0,x_1,x_2] \end{gathered}$$
由归纳法可得：
$$a_k=f[x_0,x_1,\cdots ,x_k](k=0,1,\cdots ,n)$$
以 $x_0,x_1,\cdots ,x_n$ 为结点的 $n$ 次牛顿型插值多项式：
$$N_n(x)=f(x_0)+f[x_0,x_1](x-x_0)+f[x_0,x_1,x_2](x-x_0)(x-x_1)+\cdots +f[x_0,x_1,\cdots ,x_n](x-x_0)(x-x_1)\cdots (x-x_{n-1})$$
当新增加一个结点 $x_{n+1}$ 时：
$$N_{n+1}(x)=N_n(x)+f[x_0,x_1,\cdots ,x_n,x_{n+1}](x-x_0)(x-x_1)\cdots (x-x_{n-1})(x-x_n)$$
插值多项式的误差(差商形式)表示：
$$\begin{gathered} f(x)\equiv f(x_0)+f[x_0,x_1](x-x_0)+\cdots +f[x_0,x_1,\cdots ,x_n](x-x_0)\cdots (x-x_{n-1})+f[x_0,x_1,\cdots ,x_n,x](x-x_0)\cdots (x-x_n) \\ =N_n(x)+f[x_0,x_1,\cdots ,x_n,x](x-x_0)\cdots (x-x_n) \end{gathered}$$
若 $f(x)\in C^{n+1}[a,b]$，则有
$$\begin{gathered} R_n(x)=f(x)-N_n(x)=f[x_0,x_1,\cdots ,x_n,x](x-x_0)\cdots (x-x_n) \\ f[x_0,x_1,\cdots ,x_n,x]=\frac{f^{(n+1)}(\xi )}{(n+1)!} \end{gathered}$$
一般地，若 $f(x)\in C^{n+1}[a,b]$，则存在 $\xi \in (a,b)$，使得
$$f[x_0,x_1,\cdots ,x_n]=\frac{f^{(n)}(\xi )}{n!}$$

差分与等距结点下的牛顿公式

设函数 $f(x)$ 在等距结点 $x_k=x_0+kh(k=0,1,2,\cdots )$ 上的值 $f(x_k)$ 已知，步长 $h$ 为常数。

定义2：函数 $y=f(x)$ 在 $x_k$ 处以 $h$ 为步长的一阶向前差分与二阶向前差分：
$$\begin{gathered} \Delta y_k=\Delta f(x_k)=f(x_{k+1})-f(x_k) \\ {\Delta }^2{y}_k={\Delta }^{2}f(x_k)=\Delta (\Delta f(x_k))=\Delta f(x_{k+1})-\Delta f(x_k)=f(x_{k+2})-2f(x_{k+1})+f(x_k) \end{gathered}$$
一般性，$m$ 阶向前差分：
$${\Delta }^m{y}_k={\Delta }^{m}f(x_k)=\Delta ({\Delta }^{m-1}f(x_k))={\Delta }^{m-1}f(x_{k+1})-{\Delta }^{m-1}f(x_k)$$

定义3：函数 $y=f(x)$ 在 $x_k$ 处以 $h$ 为步长的一阶向后差分与二阶向后差分：
$$\begin{gathered} ▽y_k=▽f(x_k)=f(x_k)-f(x_{k-1}) \\ {▽}^2{y}_k={▽}^{2}f(x_k)=▽(▽f(x_k))=▽f(x_k)-▽f(x_{k-1})=f(x_k)-2f(x_{k-1})+f(x_{k-2}) \end{gathered}$$
一般性，$m$ 阶向后差分：
$${▽}^m{y}_k={▽}^{m}f(x_k)=▽({▽}^{m-1}f(x_k))={▽}^{m-1}f(x_k)-{▽}^{m-1}f(x_{k-1})$$

差商与差分关系：
$$\begin{gathered} f[x_0,x_1,\cdots ,x_m]=\frac{{\Delta }^{m}f(x_0)}{m!h^m} \\ f[x_n,x_{n-1},\cdots ,x_{n-m}]=\frac{{▽}^{m}f(x_n)}{m!h^m} \end{gathered}$$

等距结点的Newton型多项式插值的差分形式：引入变量 $t$ ，设 $x=x_0+th$ （有 $x-x_i=(t-i)h$），则等距结点的Newton插值公式：
$$N_n(x_0+th)=f(x_0)+t\Delta f(x_0)+\frac{t(t-1)}{2!}{\Delta }^{2}f(x_0)+\cdots +\frac{t(t-1)\cdots (t-n+1)}{n!}{\Delta }^{n}f(x_0)$$
若 $f(x)\in C^{n+1}[a,b]$，则插值误差可表示为
$$R_n(x)=R_n(x_0+th)=\frac{t(t-1)\cdots (t-n)}{(n+1)!}{h}^{n+1}{f}^{(n+1)}(\zeta ),\zeta \in (x_0,x_n)$$
(1)牛顿表初公式或牛顿向前差分公式：若 $x$ 在 $x_0$ 附近，选取的牛顿型插值公式为
$$N_n(x_0+th)=f(x_0)+t\Delta f(x_0)+\frac{t(t-1)}{2!}{\Delta }^{2}f(x_0)+\cdots +\frac{t(t-1)\cdots (t-n+1)}{n!}{\Delta }^{n}f(x_0)$$
(2)牛顿表末公式或牛顿向后差分公式：若 $x$ 在 $x_n$ 附近，选取的牛顿型插值公式为
$$\begin{gathered} N_n(x)=N_n(x_n+th)=f(x_n)+f[x_n,x_{n-1}](x-x_n)+f[x_n,x_{n-1},x_{n-2}](x-x_n)(x-x_{n-1}) \\ +f[x_n,x_{n-1},\cdots ,x_0](x-x_n)(x-x_{n-1})\cdots (x-x_1) \\ =f(x_n)+t▽f(x_n)+\frac{t(t+1)}{2!}{▽}^{2}f(x_n)+\cdots +\frac{t(t+1)\cdots (t+n-1)}{n!}{▽}^{n}f(x_n) \\ 其中，x_k=x_n-(n-k)h \\ {R}_n(x)=R_n(x_n+th)=\frac{t(t+1)\cdots (t+n)}{(n+1)!}{h}^{n+1}{f}^{(n+1)}(\zeta ),\zeta \in (x_0,x_n) \end{gathered}$$
(3)牛顿表中插值公式：

定义4：$\delta y_k=f(x_k+\frac{h}{2})-f(x_k-\frac{h}{2})=y_{k+\frac{1}{2}}-y_{k-\frac{1}{2}}$ 称为一阶中心差分。

${\delta }^m{y}_k={\delta }^{m-1}{y}_{k+\frac{1}{2}}-{\delta }^{m-1}{y}_{k-\frac{1}{2}}$ 称为 $m$ 阶中心差分。

埃尔米特（Hermite）插值

插值在给定的结点处，不但要求插值多项式的函数值与被插函数的函数值相同，同时还要求在结点处，插值多项式的一阶直至指定阶的导数值也与被插函数的相应阶导数值相等。

设 $f(x)$ 为 $[a,b]$ 上充分光滑函数，对给定的插值结点 { x i } i = 0 n \{x_i\}^n_{i=0} {xi​}i=0n​ 及相应的重数标号 { m i } i = 0 n \{m_i\}^n_{i=0} {mi​}i=0n​，当 ${\sum }_{i=0}^n{m}_i=N+1$ 时，若有 $H(x)\in P_n$ 满足：
$$H^{(l)}(x_i)=f^{(l)}(x_i),l=0,1,\cdots ,m_i-1,i=0,1,\cdots ,n$$
则称 $H(x)$ 为 $f(x)$ 关于结点 { x i } i = 0 n \{x_i\}^n_{i=0} {xi​}i=0n​ 及重数标号 { m i } i = 0 n \{m_i\}^n_{i=0} {mi​}i=0n​ 的埃尔米特插值多项式。

二重（$m_i=2$）：$f(x)\in C^2[a,b]$，若有 $H_{2n+1}(x_i)=f(x_i),H_{2n+1}^{\prime }(x_i)=f^{\prime }(x_i),i=0,1,\cdots ,n$，称 $H_{2n+1}(x)$ 为 $f(x)$ 关于结点 { x i } i = 0 n \{x_i\}^n_{i=0} {xi​}i=0n​ 的二重埃尔米特插值多项式，其存在且唯一（由克拉默法则易得）。

基函数构造法：
$$H_{2n+1}(x)=\sum _{i=0}^n{A}_i(x)f(x_i)+\sum _{i=0}^n{B}_i(x)f^{\prime }(x_i)$$
在 $P_{2n+1}$ 上构造 $2n+2$ 个基函数 { A i ( x ) , B i ( x ) } i = 0 n \{A_i(x),B_i(x)\}^n_{i=0} {Ai​(x),Bi​(x)}i=0n​，分别满足
$$\begin{gathered} \{\begin{array}{l}{A}_i(x_j)={\delta }_{ij}\\ A_i^{\prime }(x_j)=0\end{array},j=0,1,\cdots ,n,i=0,1,\cdots ,n \\ \{\begin{array}{l}{B}_i(x_j)=0\\ B_i^{\prime }(x_j)={\delta }_{ij}\end{array},j=0,1,\cdots ,n,i=0,1,\cdots ,n \end{gathered}$$
可得 $x_0,x_1,\cdots ,x_{i-1},x_{i+1},\cdots ,x_n$ 为 $A_i(x)$ 的二重零点，$A_i(x)\in P_{2n+1}$，有：
$$\begin{gathered} A_i(x)=(a_{i}x+b_i)[(x-x_0{)}^2(x-x_1{)}^2\cdots (x-x_{i-1}{)}^2(x-x_{i+1}{)}^2\cdots (x-x_n{)}^2] \\ 也可设:A_i(x)=[a_i(x-x_i)+b_i]\prod _{j=0,j\ne i}^n(x-x_j{)}^2 \end{gathered}$$
由 $A_i(x_i)=1,A_i^{\prime }(x_i)=0$ 得
$$\begin{gathered} b_i=1/\prod _{j=0,j\ne i}^n(x_i-x_j{)}^2 \\ {A}_i(x)=[1-2(x-x_i)\sum _{j=0,j\ne i}^n\frac{1}{x_i-x_j}]l_i^2(x) \end{gathered}$$
其中，$l_i(x)$ 为关于点 { x i } i = 0 n \{x_i\}^n_{i=0} {xi​}i=0n​ 的Lagrange 基函数。用类似的方法，可得到
$$\begin{gathered} B_i(x)=(x-x_i)l_i^2(x) \\ {H}_{2n+1}(x)=\sum _{i=0}^n{A}_i(x)f(x_i)+\sum _{i=0}^n{B}_i(x)f^{\prime }(x_i) \end{gathered}$$
二重埃尔米特插值多项式的误差分析：若 $f\in C^{2n+2}[a,b]$，则 $f(x)$ 关于 $[a,b]$ 上结点 { x i } i = 0 n \{x_i\}^n_{i=0} {xi​}i=0n​ 的二重埃尔米特插值多项式误差为
f ( x ) − H 2 n + 1 ( x ) = f ( 2 n + 2 ) ( ξ ) ( 2 n + 2 ) ! ω n + 1 2 ( x ) m i n { x 0 , x 1 , ⋯   , x n , x } ≤ ξ = ξ ( x ) ≤ m a x { x 0 , x 1 , ⋯   , x n , x } f(x)-H_{2n+1}(x)=\frac{f^{(2n+2)}(\xi)}{(2n+2)!}\omega^2_{n+1}(x)\\min\{x_0,x_1,\cdots,x_n,x\}\leq\xi=\xi(x)\leq max\{x_0,x_1,\cdots,x_n,x\} f(x)−H2n+1​(x)=(2n+2)!f(2n+2)(ξ)​ωn+12​(x)min{x0​,x1​,⋯,xn​,x}≤ξ=ξ(x)≤max{x0​,x1​,⋯,xn​,x}
具有两个结点 $x_0,x_1$ 的二重埃尔米特插值为一个三次多项式，基函数分别为：
$$\begin{gathered} A_0(x)=[1-2\frac{x-x_0}{x_0-x_1}](\frac{x-x_1}{x_0-x_1}{)}^2 \\ {A}_1(x)=[1-2\frac{x-x_1}{x_1-x_0}](\frac{x-x_1}{x_0-x_1}{)}^2 \\ {B}_0(x)=(x-x_0)(\frac{x-x_1}{x_0-x_1}{)}^2 \\ {B}_1(x)=(x-x_1)(\frac{x-x_1}{x_0-x_1}{)}^2 \end{gathered}$$
所以，二重埃尔米特插值多项式为：
$$H_3(x)=A_0(x)f(x_0)+A_1(x)f(x_1)+B_0(x)f^{\prime }(x_0)+B_1(x)f^{\prime }(x_1)$$
若 $f\in C^4[a,b]$，则有误差表达式：
$$R_3(x)=f(x)-H_3(x)=\frac{f^{(4)}(\xi )}{4!}(x-x_0{)}^2(x-x_1{)}^2$$

一般形式的Hermite插值问题：求一个次数不大于 $n+r+1$ 的代数多项式 $H(x)$ ，满足：
$$\begin{gathered} H(x_i)=f(x_i),i=0,1,2,\cdots ,n \\ {H}^{\prime }(x_i)=f^{\prime }(x_i),i=0,1,2,\cdots ,r(r\le n) \end{gathered}$$
令 $H(x)={\sum }_{k=0}^n{h}_k(x)f(x_k)+{\sum }_{k=0}^r{\bar{h}}_k(x)f^{\prime }(x_k)$，其中 $h_k(x)、{\bar{h}}_k(x)$ 都是 $n+r+1$ 次待定多项式，并且满足：
$$\begin{gathered} h_k(x_i)=\{\begin{array}{l}1i=k\\ 0i\ne k\end{array}i,k=0,1,\cdots ,n \\ {h}_k^{\prime }(x_i)=0,k=0,1,\cdots ,n;i=0,1,\cdots ,r \\ {\bar{h}}_k^{\prime }(x_i)=\{\begin{array}{l}1i=k\\ 0i\ne k\end{array}i,k=0,1,\cdots ,r \\ {\bar{h}}_k(x_i)=0,k=0,1,\cdots ,r;i=0,1,\cdots ,n \end{gathered}$$
1、求解 $h_k(x)(k=0,1,\cdots ,n)$：由条件可得，$x_i(i=0,1,\cdots ,r;i\ne k)$ 是 $h_k(x)$ 的二重零点，$x_i(i=r+1,r+2,\cdots ,n;i\ne k)$ 是 $h_k(x)$ 的零点。

当 $0\le k\le r$ 时：
$$\begin{gathered} h_k(x)=(Ax+B)(x-x_0{)}^2\cdots (x-x_{k-1}{)}^2(x-x_{k+1}{)}^2\cdots (x-x_r{)}^2(x-x_{r+1})\cdots (x-x_n) \\ =(Ax+B)\prod _{i=0,i\ne k}^r(x-x_i{)}^2\prod _{i=r+1}^n(x-x_i) \end{gathered}$$

又由 $h_k(x_k)=1,h_k^{\prime }(x_k)=0$ 得：
$$\begin{gathered} (A{x}_k+B)\prod _{i=0,i\ne k}^r(x_k-x_i{)}^2\prod _{i=r+1}^n(x_k-x_i)=1 \\ A\prod _{i=0 \\ i\ne k}^r(x_k-x_i{)}^2\prod _{i=r+1}^n(x_k-x_i)+2(A{x}_k+B)\sum _{j=0}^r(x_k-x_j)\prod _{i=0 \\ i\ne j \\ i\ne k}^r(x_k-x_i{)}^2\prod _{i=r+1}^n(x_k-x_i)+(A{x}_k+B)\sum _{j=r+1}^n\prod _{i=0 \\ i\ne k}^r(x_k-x_i{)}^2\prod _{i=r+1 \\ i\ne j}^n(x_k-x_i)=0 \end{gathered}$$
解得
A = − 2 ∑ j = 0 r 1 x k − x j + ∑ j = r + 1 n 1 x k − x j ∏ i = 0 i ≠ k r ( x k − x i ) 2 ∏ i = r + 1 n ( x k − x i ) B = − 1 − A x k ∏ i = 0 i ≠ k r ( x k − x i ) 2 ∏ i = r + 1 n ( x k − x i ) h k ( x ) = { 1 − ( x − x k ) [ l k n ′ ( x k ) + l k r ′ ( x k ) ] } l k n ( x ) l k r ( x ) , k = 0 , 1 , ⋯   , r 其 中 ： l k n ( x ) = ∏ i = 0 i ≠ k n x − x i x k − x i l k r ( x ) = ∏ i = 0 i ≠ k r x − x i x k − x i l k n ′ ( x k ) = ∏ i = 0 i ≠ k n 1 x k − x i l k r ′ ( x k ) = ∏ i = 0 i ≠ k r 1 x k − x i A=-\frac{2\sum_{j=0}^r\frac{1}{x_k-x_j}+\sum_{j=r+1}^n\frac{1}{x_k-x_j}}{\prod_{i=0\\i\neq k}^r(x_k-x_i)^2\prod_{i=r+1}^n(x_k-x_i)}\\B=-\frac{1-Ax_k}{\prod_{i=0\\i\neq k}^r(x_k-x_i)^2\prod_{i=r+1}^n(x_k-x_i)}\\h_k(x)=\{1-(x-x_k)[l'_{kn}(x_k)+l'_{kr}(x_k)]\}l_{kn}(x)l_{kr}(x),k=0,1,\cdots,r\\其中：l_{kn}(x)=\prod_{i=0\\i\neq k}^n\frac{x-x_i}{x_k-x_i}\\l_{kr}(x)=\prod_{i=0\\i\neq k}^r\frac{x-x_i}{x_k-x_i}\\l'_{kn}(x_k)=\prod_{i=0\\i\neq k}^n\frac{1}{x_k-x_i}\\l'_{kr}(x_k)=\prod_{i=0\\i\neq k}^r\frac{1}{x_k-x_i} A=−∏i=0i​=kr​(xk​−xi​)2∏i=r+1n​(xk​−xi​)2∑j=0r​xk​−xj​1​+∑j=r+1n​xk​−xj​1​​B=−∏i=0i​=kr​(xk​−xi​)2∏i=r+1n​(xk​−xi​)1−Axk​​hk​(x)={1−(x−xk​)[lkn′​(xk​)+lkr′​(xk​)]}lkn​(x)lkr​(x),k=0,1,⋯,r其中：lkn​(x)=i=0i​=k∏n​xk​−xi​x−xi​​lkr​(x)=i=0i​=k∏r​xk​−xi​x−xi​​lkn′​(xk​)=i=0i​=k∏n​xk​−xi​1​lkr′​(xk​)=i=0i​=k∏r​xk​−xi​1​
当 $r+1\le k\le n$ 时，$h_k(x)$ 具有如下形式：
$$\begin{gathered} h_k(x)=C\prod _{i=0}^r(x-x_i{)}^2\prod _{i=r+1 \\ i\ne k}^n(x-x_i) \end{gathered}$$
由 $h_k(x_k)=1$ 得：
$$\begin{gathered} C=\frac{1}{{\prod }_{i=0}^r(x_k-x_i{)}^2{\prod }_{i=r+1 \\ i\ne k}^n(x_k-x_i)} \\ {h}_k(x)=\frac{w_r(x)}{w_r(x_k)}{l}_{kn}(x),k=r+1,r+2,\cdots ,n \\ 其中：w_r(x)=\prod _{i=0}^r(x-x_i) \\ {w}_r(x_k)=\prod _{i=0}^r(x_k-x_i) \\ {l}_{kn}(x)=\prod _{i=0 \\ i\ne k}^n\frac{x-x_i}{x_k-x_i} \end{gathered}$$
2、求解 ${\bar{h}}_k(x)(k=0,1,\cdots ,n)$：由条件可得，$x_i(i=0,1,\cdots ,r;i\ne k)$ 是 ${\bar{h}}_k(x)$ 的二重零点，$x_i(i=k,r+1,r+2,\cdots ,n)$ 是 ${\bar{h}}_k(x)$ 的零点。

当 $0\le k\le r$ 时：
$$\begin{gathered} {\bar{h}}_k(x)=D\prod _{i=0}^n(x-x_i)\prod _{i=0 \\ i\ne k}^r(x-x_i) \end{gathered}$$
由 ${\bar{h}}_k^{\prime }(x_k)=1$得
$$\begin{gathered} D=\frac{1}{{\sum }_{j=0}^n{\prod }_{i=0 \\ i\ne j}^n(x_k-x_i){\prod }_{i=0 \\ i\ne k}^r(x_k-x_i)+{\sum }_{j=0 \\ j\ne k}^r{\prod }_{i=0}^n(x_k-x_i){\prod }_{i=0 \\ i\ne k \\ i\ne j}^r(x_k-x_i)} \\ {\bar{h}}_k(x)=(x-x_k)l_{kn}(x)l_{kr}(x),k=0,1,\cdots ,r \end{gathered}$$

补充：重节点差商
$$\begin{gathered} f[x_0,x_1,x_2,x_1]=\frac{f[x_1,x_2,x_1]-f[x_0,x_1,x_2]}{x_1-x_0} \\ f[x_1,x_2,x_1]=\frac{f[x_2,x_1]-f[x_1,x_1]}{x_2-x_1} \\ f[x_1,x_1]=\underset{x_2\to x_1}{\lim }f[x_1,x_2]=\underset{x_2\to x_1}{\lim }\frac{f(x_2)-f(x_1)}{x_2-x_1}=f^{\prime }(x_1) \\ 类似的，f[x_1,x_1,x_1]=\frac{1}{2!}{f}^{\prime \prime }(x_1) \\ f[\underset{n+1个}{\underbrace{x_1,x_1,\cdots ,x_1}}]=\frac{1}{n!}{f}^{(n)}(x_1) \end{gathered}$$
例如，已知 $f(x)$ 在结点 $x_0,x_1,x_2$ 上的函数值和在 $x_1$ 处的导数值，求次数不超过3次的多项式 $P(x)$：
$$P(x)=f(x_0)+f[x_0,x_1](x-x_0)+f[x_0,x_1,x_2](x-x_0)(x-x_1)+f[x_0,x_1,x_2,x_1](x-x_0)(x-x_1)(x-x_2)$$

分段低次插值

龙格（Runge）现象：为减少逼近误差，盲目地提高插值阶是不可取的。一个解决办法：缩小插值区间，即分段低次插值。

分段线性插值与分段二次插值

对给定区间 $[a,b]$ 作分割：$a=x_0<x_1<x_2<\cdots <x_n=b$。在每个小区间 $[x_{i-1},x_i]$ 上作 $f(x)$ 以 $x_{i-1},x_i$ 为结点的线性插值，记为 $L_1(x)$，则
$$f(x)\approx L_1(x)=f(x_{i-1})\frac{x-x_i}{x_{i-1}-x_i}+f(x_i)\frac{x-x_{i-1}}{x_i-x_{i-1}}$$
即为分段线性插值（折线插值）。

特点：

1. $L_1(x)\in C[a,b]$。
2. $L_1(x)$ 在 $[x_{i-1},x_i]$ 上为一个不高于一次的多项式。

误差：若 $f(x)\in C^2[a,b]$，则 $|f(x)-L_1(x)|\le \frac{M_2}{8}{h}^2$，其中 $M_2={\max }_{a\le x\le b}|f^{\prime \prime }(x)|,h_i=x_i-x_{i-1},h={\max }_{1\le i\le n}{h}_i$

证明：当 $x\in [x_{i-1},x_i]$ 时，可得：
$$\begin{gathered} f(x)-L_1(x)=\frac{f^{\prime \prime }(\xi )}{2!}(x-x_{i-1})(x-x_i) \\ |f(x)-L_1(x)|\le \frac{M_2}{2}|(x-x_{i-1})(x-x_i)|\le \frac{M_2}{2}\cdot \frac{1}{4}(x_i-x_{i-1}{)}^2\le \frac{M_2}{8}{h}^2 \end{gathered}$$

由此可知，当区间分割加密，即 ${\max }_i(x_i-x_{i-1})\to 0$，分段线性插值 $L_1(x)$ 收敛于 $f(x)$。

分段线性插值有很好的收敛性质，但却是不光滑的。

分段二次插值（分段抛物插值）：
$$\begin{gathered} f(x)\approx L_2(x)=\sum _{k=i-1}^{i+1}[f(x_i)\prod _{j=i-1 \\ j\ne k}^{i+1}(\frac{x-x_j}{x_k-x_j})] \end{gathered}$$

三次样条插值

定义5：$△:a=x_0<x_1<x_2<\cdots <x_n=b$ 为 $[a,b]$ 上的一个分割，若函数 $S(x)$ 满足：

1. $S(x)$ 在每个子区间 $[x_i,x_{i+1}]$ 上为不高于三次的多项式；
2. $S(x)\in C^2(a,b)$；
3. $S(x_i)=f(x_i),i=0,1,\cdots ,n$

则称 $S(x)$ 为 $f(x)$ 在 $△$ 上的三次样条插值函数。

唯一性：需要提出两个限制条件，称为边界条件或端点条件，通常有三种提法：

1. $S(x)$ 两端的一阶导数值等于预先给定的值，即
   $$S^{\prime }(x_0)=y_0^{\prime },S^{\prime }(x_n)=y_n^{\prime }$$
   称为 $D_1$ 样条。

2. $S(x)$ 两端的二阶导数值等于预先给定的值，即
   $$S^{\prime \prime }(x_0)=y_0^{\prime \prime },S^{\prime \prime }(x_n)=y_n^{\prime \prime }$$
   称为 $D_2$ 样条。特别的，当 $S^{\prime \prime }(x_0)=S^{\prime \prime }(x_n)=0$ 时，为自然样条。

3. 若三次样条为以 $b-a$ 为周期的周期函数（$f(x_n)=f(x_0),S(x_0+0)=S(x_n-0)$），则称 $S^{\prime }(x_0+0)=S^{\prime }(x_n-0),S^{\prime \prime }(x_0+0)=S^{\prime \prime }(x_n-0)$ 为周期样条。

三斜率（三转角）方程组

$S(x)$ 为一个不高于三次的多项式。设 $S^{\prime }(x_i)=d_i,i=0,1,\cdots ,n$，$S(x)$ 在 $[x_i,x_{i+1}]$ 上的表达式为 $S_i(x)$，于是有
$$\begin{gathered} S_i(x_i)=f(x_i),S_i(x_{i+1})=f(x_{i+1}) \\ {S}_i^{\prime }(x_i)=d_i,S_i^{\prime }(x_{i+1})=d_{i+1} \\ {h}_{i+1}=x_{i+1}-x_i \end{gathered}$$
记：
$${\lambda }_i=\frac{h_{i+1}}{h_i+h_{i+1}},{\mu }_i=1-{\lambda }_i=\frac{h_i}{h_i+h_{i+1}},C_i=3({\lambda }_{i}f[x_{i-1},x_i]+{\mu }_{i}f[x_i,x_{i+1}])$$
则有三次样条插值的 $d$ 关系式（或 $m$ 关系式）：
$${\lambda }_i{d}_{i-1}+2d_i+{\mu }_i{d}_{i+1}=C_i,i=1,2,\cdots ,n-1$$
加入两个端点条件，才能解得 { d i } i = 0 n \{d_i\}^n_{i=0} {di​}i=0n​，有三种方法：

1. $D_1$ 样条： $S(x)$ 两端的一阶导数值等于预先给定的值：
   $$S^{\prime }(x_0)=y_0^{\prime },S^{\prime }(x_n)=y_n^{\prime }$$
   求线性方程组，得 $d_i(i=1,\cdots ,n-1)$：
   $$\left[\begin{array}{cccc}2& {\mu }_1& & \\ {\lambda }_2& 2& {\mu }_2& \\ \ddots & \ddots & \ddots & \\ & {\lambda }_{n-2}& 2& {\mu }_{n-2}\\ & & {\lambda }_{n-1}& 2\end{array}\right]\left[\begin{array}{c}{d}_1\\ d_2\\ ⋮\\ d_{n-2}\\ d_{n-1}\end{array}\right]=\left[\begin{array}{c}{C}_1-{\lambda }_1{y}_0^{\prime }\\ C_2\\ ⋮\\ C_{n-2}\\ C_{n-1}-{\mu }_{n-1}{y}_n^{\prime }\end{array}\right]$$

2. $D_2$ 样条： $S(x)$ 两端的二阶导数值等于预先给定的值：
   $$S^{\prime \prime }(x_0)=y_0^{\prime \prime },S^{\prime \prime }(x_n)=y_n^{\prime \prime }$$
   由 $S^{\prime \prime }(x)$ 在 $[x_i,x_{i+1}]$ 的表达式，容易得到：
   $$\begin{gathered} 2d_0+d_1=3f[x_0,x_1]-\frac{h_1}{2}{y}_0^{\prime \prime } \\ {d}_{n-1}+2d_n=3f[x_{n-1},x_n]-\frac{h_n}{2}{y}_n^{\prime \prime } \end{gathered}$$
   可得关于 { d i } i = 0 n \{d_i\}^n_{i=0} {di​}i=0n​ 的一组线性方程组：
   $$\left[\begin{array}{cccc}2& 1& & \\ {\lambda }_1& 2& {\mu }_1& \\ \ddots & \ddots & \ddots & \\ & {\lambda }_{n-1}& 2& {\mu }_{n-1}\\ & & 1& 2\end{array}\right]\left[\begin{array}{c}{d}_0\\ d_1\\ ⋮\\ d_{n-1}\\ d_n\end{array}\right]=\left[\begin{array}{c}3f[x_0,x_1]-\frac{h_1}{2}{y}_0^{\prime \prime }\\ C_1\\ ⋮\\ C_{n-1}\\ 3f[x_{n-1},x_n]-\frac{h_n}{2}{y}_n^{\prime \prime }\end{array}\right]$$

3. 周期样条：若三次样条为以 $b-a$ 为周期的周期函数，$f(x_n)=f(x_0),S(x_0)=S(x_n),S^{\prime }(x_0)=S^{\prime }(x_n),S^{\prime \prime }(x_0)=S^{\prime \prime }(x_n)$，可得
   $$\begin{gathered} {\lambda }_{n-1}{d}_{n-2}+2d_{n-1}+{\mu }_{n-1}{d}_0=C_{n-1} \\ {\lambda }_0{d}_{n-1}+2d_0+{\mu }_0{d}_1=C_0 \\ 这里：{\lambda }_0=\frac{h_1}{h_n+h_1},{\mu }_0=1-{\lambda }_0=\frac{h_n}{h_n+h_1} \\ {C}_0=3({\lambda }_{0}f[x_{n-1},x_n]+{\mu }_{0}f[x_0,x_1]) \end{gathered}$$
   得到关于 { d i } i = 0 n \{d_i\}^n_{i=0} {di​}i=0n​ 的一组线性方程组：
   $$\left[\begin{array}{cccc}2& {\mu }_0& & {\lambda }_0\\ {\lambda }_1& 2& {\mu }_1& \\ \ddots & \ddots & \ddots & \\ & {\lambda }_{n-2}& 2& {\mu }_{n-2}\\ {\mu }_{n-1}& & {\lambda }_{n-1}& 2\end{array}\right]\left[\begin{array}{c}{d}_0\\ d_1\\ ⋮\\ d_{n-2}\\ d_{n-1}\end{array}\right]=\left[\begin{array}{c}{C}_0\\ C_1\\ ⋮\\ C_{n-2}\\ C_{n-1}\end{array}\right]$$

求出 { d i } i = 0 n \{d_i\}^n_{i=0} {di​}i=0n​ ，即得在 $[x_i,x_{i+1}]$ 上的三次样条插值函数为：
$$\begin{gathered} S_i(x)=\frac{1}{h_{i+1}^3}[h_{i+1}+2(x-x_i)](x-x_{i+1}{)}^{2}f(x_i) \\ +\frac{1}{h_{i+1}^3}[h_{i+1}-2(x-x_{i+1})](x-x_i{)}^{2}f(x_{i+1}) \\ +\frac{1}{h_{i+1}^2}(x-x_i)(x-x_{i+1}{)}^2{d}_i \\ +\frac{1}{h_{i+1}^2}(x-x_{i+1})(x-x_i{)}^2{d}_{i+1} \end{gathered}$$

三弯矩方程组（M关系式）

对于样条插值函数 $S(x)\in C^2(a,b)$，设 $S^{\prime \prime }(x_i)=M_i,i=0,1,\cdots ,n$ 为待求参数。

三次样条插值的 $M$ 关系式：
$$\begin{gathered} {\mu }_i{M}_{i-1}+2M_i+{\lambda }_i{M}_{i+1}=c_i,i=1,2,\cdots ,n-1 \\ {c}_i=6f[x_{i-1},x_i,x_{i+1}] \end{gathered}$$

加入两个端点条件，通过 $M$ 关系式可解得 { M i } i = 0 n \{M_i\}^n_{i=0} {Mi​}i=0n​，有三种方法：

1. $D_1$ 样条： $S(x)$ 两端的一阶导数值等于预先给定的值：
   $$S^{\prime }(x_0)=y_0^{\prime },S^{\prime }(x_n)=y_n^{\prime }$$
   对 $i=0$ 及 $i=n-1$ 时的 $S_i(x)$ 求导，并分别对 $x_0,x_n$ 代入，整理得：
   $$\begin{gathered} 2M_0+M_1=\frac{6}{h_1}(f[x_0,x_1]-y_0^{\prime }) \\ {M}_{n-1}+2M_n=\frac{6}{h_n}(y_n^{\prime }-f[x_{n-1},x_n]) \end{gathered}$$
   得到关于 { M i } i = 0 n \{M_i\}^n_{i=0} {Mi​}i=0n​ 的方程组：
   $$\left[\begin{array}{cccc}2& 1& & \\ {\mu }_1& 2& {\lambda }_1& \\ \ddots & \ddots & \ddots & \\ & {\mu }_{n-1}& 2& {\lambda }_{n-1}\\ & & 1& 2\end{array}\right]\left[\begin{array}{c}{M}_0\\ M_1\\ ⋮\\ M_{n-1}\\ M_n\end{array}\right]=\left[\begin{array}{c}\frac{6}{h_1}(f[x_0,x_1]-y_0^{\prime })\\ c_1\\ ⋮\\ c_{n-1}\\ \frac{6}{h_n}(y_n^{\prime }-f[x_{n-1},x_n])\end{array}\right]$$

2. $D_2$ 样条： $S(x)$ 两端的二阶导数值等于预先给定的值：
   $$S^{\prime \prime }(x_0)=y_0^{\prime \prime },S^{\prime \prime }(x_n)=y_n^{\prime \prime }$$
   得到关于 { M i } i = 0 n \{M_i\}^n_{i=0} {Mi​}i=0n​ 的方程组：
   $$\left[\begin{array}{cccc}2& {\lambda }_1& & \\ {\mu }_2& 2& {\lambda }_2& \\ \ddots & \ddots & \ddots & \\ & {\mu }_{n-2}& 2& {\lambda }_{n-2}\\ & & {\mu }_{n-1}& 2\end{array}\right]\left[\begin{array}{c}{M}_1\\ M_2\\ ⋮\\ M_{n-2}\\ M_{n-1}\end{array}\right]=\left[\begin{array}{c}{c}_1-{\mu }_1{y}_0^{\prime \prime }\\ c_2\\ ⋮\\ c_{n-2}\\ c_{n-1}-{\lambda }_{n-1}{y}_n^{\prime \prime }\end{array}\right]$$

3. 周期样条：若三次样条为以 $b-a$ 为周期的周期函数，$f(x_n)=f(x_0),S(x_0)=S(x_n),S^{\prime }(x_0)=S^{\prime }(x_n),S^{\prime \prime }(x_0)=S^{\prime \prime }(x_n)$，可得：
   $$\begin{gathered} {\mu }_0{M}_{n-1}+2M_0+{\lambda }_0{M}_1=\frac{6}{h_1+h_n}(f[x_0,x_1]-f[x_{n-1},x_n]) \\ 这里：{\lambda }_0=\frac{h_1}{h_1+h_n},{\mu }_0=1-{\lambda }_0=\frac{h_n}{h_1+h_n} \\ {\mu }_{n-1}{M}_{n-1}+2M_{n-1}+{\lambda }_{n-1}{M}_0=c_{n-1} \end{gathered}$$
   得到关于 { M i } i = 0 n − 1 \{M_i\}^{n-1}_{i=0} {Mi​}i=0n−1​ 的方程组：
   $$\left[\begin{array}{cccc}2& {\lambda }_0& & {\mu }_0\\ {\mu }_1& 2& {\lambda }_1& \\ \ddots & \ddots & \ddots & \\ & {\mu }_{n-2}& 2& {\lambda }_{n-2}\\ {\lambda }_{n-1}& & {\mu }_{n-1}& 2\end{array}\right]\left[\begin{array}{c}{M}_0\\ M_1\\ ⋮\\ M_{n-2}\\ M_{n-1}\end{array}\right]=\left[\begin{array}{c}\frac{6}{h_1+h_n}(f[x_0,x_1]-f[x_{n-1},x_n])\\ c_1\\ ⋮\\ c_{n-2}\\ c_{n-1}\end{array}\right]$$

求出 { M i } i = 0 n \{M_i\}^n_{i=0} {Mi​}i=0n​ ，即得在 $[x_i,x_{i+1}]$ 上的三次样条插值函数为：
$$\begin{gathered} S_i(x)=M_i\frac{(x_{i+1}-x{)}^3}{6h_{i+1}}+M_{i+1}\frac{(x-x_i{)}^3}{6h_{i+1}} \\ +(y_i-\frac{M_i}{6}{h}_{i+1}^2)\frac{x_{i+1}-x}{h_{i+1}}+(y_{i+1}-\frac{M_{i+1}}{6}{h}_{i+1}^2)\frac{x-x_i}{h_{i+1}} \end{gathered}$$

定理3：满足3个边界条件其中一个的三次样条插值函数 $S(x)$ 存在且唯一。

曲线拟合的最小二乘法

选取 $\phi (x)$，使偏差平方和最小：
$$\sum _{i=1}^m{\delta }_i^2=\sum _{i=1}^m[\phi (x_i)-y_i{]}^2=\min$$

最小二乘解的求法

设 $\phi (x)=F(a_0,a_1,\cdots ,a_n,x)$，其中 $n<m,a_k(k=0,1,\cdots ,n)$ 是待定参数，记
$$S(a_0,a_1,\cdots ,a_n)=\sum _{i=1}^m[F(a_0,a_1,\cdots ,a_n,x_i)-y_i{]}^2$$
根据最小二乘法原则，求 $a_0^{\ast },\cdots ,a_n^{\ast }$，满足：
$$\frac{\partial S}{\partial a_k}=0(k=0,1,\cdots ,n)$$
由上式的解 $a_0^{\ast },\cdots ,a_n^{\ast }$ 得到的：
$${\phi }^{\ast }(x)=F(a_0^{\ast },a_1^{\ast },\cdots ,a_n^{\ast },x)$$
就为所求的最小二乘解。

线性最小二乘问题的求法

$\phi (x)=a_0{\phi }_0(x)+a_1{\phi }_1(x)+\cdots +a_n{\phi }_n(x)$，此时：
$$S(a_0,a_1,\cdots ,a_n)=\sum _{i=1}^m[\sum _{k=0}^n{a}_k{\phi }_k(x_i)-y_i{]}^2$$
由 $\frac{\partial S}{\partial a_k}=0(k=0,1,\cdots ,n)$，得
$$\begin{gathered} \sum _{i=1}^m{\phi }_k(x_i)[\sum _{k=0}^n{a}_k{\phi }_k(x_i)-y_i]=0,k=0,1,\cdots ,n \\ {a}_0\sum _{i=1}^m{\phi }_k(x_i){\phi }_0(x_i)+\cdots +a_n\sum _{i=1}^m{\phi }_k(x_i){\phi }_n(x_i)=\sum _{i=1}^m{\phi }_k(x_i)y_i \end{gathered}$$
引入内积记号：$(h,g)={\sum }_{i=1}^{m}h(x_i)g(x_i)$，则上述方程组可以表示为
$$\begin{gathered} a_0({\phi }_k,{\phi }_0)+\cdots +a_n({\phi }_k,{\phi }_n)=({\phi }_k,f),k=0,1,\cdots ,n \\ \left[\begin{array}{cccc}({\phi }_0,{\phi }_0)& ({\phi }_0,{\phi }_1)& \cdots & ({\phi }_0,{\phi }_n)\\ ({\phi }_1,{\phi }_0)& ({\phi }_1,{\phi }_1)& \cdots & ({\phi }_1,{\phi }_n)\\ ⋮& ⋮& & ⋮\\ ({\phi }_n,{\phi }_0)& ({\phi }_n,{\phi }_1)& \cdots & ({\phi }_n,{\phi }_n)\end{array}\right]\left[\begin{array}{c}{a}_0\\ a_1\\ ⋮\\ a_n\end{array}\right]=\left[\begin{array}{c}({\phi }_0,f)\\ ({\phi }_1,f)\\ ⋮\\ ({\phi }_n,f)\end{array}\right] \end{gathered}$$
解上述方程组即得到相应的最小二乘解：${\phi }^{\ast }(x)=a_0^{\ast }{\phi }_0(x)+a_1^{\ast }{\phi }_1(x)+\cdots +a_n^{\ast }{\phi }_n(x)$

多项式拟合最小二乘法

取 ${\phi }_0(x)=1,{\phi }_1(x)=x,\cdots ,{\phi }_n(x)=x^n$，则可得
$$\begin{gathered} ({\phi }_j,{\phi }_k)=\sum _{i=1}^m{x}_i^j{x}_i^k=\sum _{i=1}^m{x}_i^{j+k},j,k=0,1,\cdots ,n \\ ({\phi }_i,f)=\sum _{i=1}^m{x}_i^j{y}_i,k=0,1,\cdots ,n \end{gathered}$$
方程组为：
$$\left[\begin{array}{cccc}m& {\sum }_{i=1}^m{x}_i& \cdots & {\sum }_{i=1}^m{x}_i^n\\ {\sum }_{i=1}^m{x}_i& {\sum }_{i=1}^m{x}_i^2& \cdots & {\sum }_{i=1}^m{x}_i^{n+1}\\ ⋮& ⋮& & ⋮\\ {\sum }_{i=1}^m{x}_i^n& {\sum }_{i=1}^m{x}_i^{n+1}& \cdots & {\sum }_{i=1}^m{x}_i^{2n}\end{array}\right]\left[\begin{array}{c}{a}_0\\ a_1\\ ⋮\\ a_n\end{array}\right]=\left[\begin{array}{c}{\sum }_{i=1}^m{y}_i\\ {\sum }_{i=1}^m{x}_i{y}_i\\ ⋮\\ {\sum }_{i=1}^m{x}_i^n{y}_i\end{array}\right]$$

求最小二乘法解的步骤：

1. 根据数据 $(x_i,y_i)(i=1,2,\cdots ,m)$，确定函数空间 $\Phi$ 和基函数 ${\phi }_0(x),{\phi }_1(x),\cdots ,{\phi }_n(x)$；
2. 根据 $\phi (x)$ 的特点，建立 $a_k(k=0,1,\cdots ,n)$ 的法方程组；
3. 通过解法方程组求取最小二乘解 ${\phi }^{\ast }(x)$ 对应的参数 $a_k^{\ast }(k=0,1,\cdots ,n)$。

思考题：用最小二乘原理，求超定线性方程组：$\{\begin{array}{l}2x+4y=11\\ 3x-5y=3\\ x+2y=6\\ 2x+y=7\end{array}$，并给出均方误差。

解：$\{\begin{array}{l}{\delta }_1=2x+4y-11\\ {\delta }_2=3x-5y-3\\ {\delta }_3=x+2y-6\\ {\delta }_4=2x+y-7\end{array},S(x,y)={\sum }_{i=1}^4{\delta }_i^2\to \min$

加权技巧的应用

对给定实验数据 $(x_i,y_i)(i=1,2,\cdots ,m)$，寻求一个函数：${\phi }^{\ast }(x)=a_0^{\ast }{\phi }_0(x)+a_1^{\ast }{\phi }_1(x)+\cdots +a_n^{\ast }{\phi }_n(x)$，使：
$$\sum _{i=1}^m{W}_i[{\phi }^{\ast }(x_i)-y_i{]}^2=\underset{\phi (x)\in \Phi }{\min }\sum _{i=1}^m{W}_i[\phi (x_i)-y_i{]}^2$$
其中，$\phi (x)=a_0{\phi }_0(x)+a_1{\phi }_1(x)+\cdots +a_n{\phi }_n(x)$，$W_i$ 是一列正数，称为权，它的大小反映了数据 $(x_i,y_i)$ 地位的强弱。

可归结为求多元函数
$$S(a_0,a_1,\cdots ,a_n)=\sum _{i=1}^m{W}_i[\sum _{k=0}^n{a}_k{\phi }_k(x_i)-y_i{]}^2$$
的极小点 $(a_0^{\ast },a_1^{\ast },\cdots ,a_n^{\ast })$

特例：取 ${\phi }_0(x)=1,{\phi }_1(x)=x,\cdots ,{\phi }_n(x)=x^n$，则可得法方程组
$$\left[\begin{array}{cccc}{\sum }_{i=1}^m{W}_i& {\sum }_{i=1}^m{W}_i{x}_i& \cdots & {\sum }_{i=1}^m{W}_i{x}_i^n\\ {\sum }_{i=1}^m{W}_i{x}_i& {\sum }_{i=1}^m{W}_i{x}_i^2& \cdots & {\sum }_{i=1}^m{W}_i{x}_i^{n+1}\\ ⋮& ⋮& & ⋮\\ {\sum }_{i=1}^m{W}_i{x}_i^n& {\sum }_{i=1}^m{W}_i{x}_i^{n+1}& \cdots & {\sum }_{i=1}^m{W}_i{x}_i^{2n}\end{array}\right]\left[\begin{array}{c}{a}_0\\ a_1\\ ⋮\\ a_n\end{array}\right]=\left[\begin{array}{c}{\sum }_{i=1}^m{W}_i{y}_i\\ {\sum }_{i=1}^m{W}_i{x}_i{y}_i\\ ⋮\\ {\sum }_{i=1}^m{W}_i{x}_i^n{y}_i\end{array}\right]$$