第六章 非线性方程求解

第六章 非线性方程求解

6.1 二分法

过程

设$f\in C[a,b]$，且$[a,b]$为有根区间，取中点$x_0=\frac{a+b}{2}$

若$f(a)f(x_0)>0$，则取$a_1=x_0$

否则取$b_1=x_0$。

6.2 迭代法

将方程改写为等价形式：
$$x=\phi (x)$$
根据上式构造迭代法
$$x_{k+1}=\phi (x_k)$$
如果有$\underset{k\to \infty }{\lim }{x}_k=x^{\ast }$，则$x^{\ast }$为该方程的解

6.3 收敛性、阶

定理6.1

设$\phi \in C[a,b]$,如果对$\forall x\in [a,b]有a\le \phi (x)\le b$，且存在常数$L\in (0,1)$使
$$|\phi (x)-\phi (y)|\le L|x-y|,\forall x,y\in [a,b]$$
则$\phi$在区间$[a,b]$上存在唯一不动点$x^{\ast }$,且由上述式子产生的迭代序列$x_k$对任何$x_0\in [a,b]$收敛于$x^{\ast }$，并有误差估计
$$|x_k-x^{\ast }|\le \frac{L^k}{1-L}|x_1-x_0|$$
推论

若$\phi \in C^1[a,b]$，则定理中的条件式可以改成
$$\underset{a\le x\le b}{\max }|{\phi }^{\prime }(x)|\le L<1$$
定义6.1

设$\phi$在某区间$I$有不动点$x^{\ast }$，若存在$x^{\ast }$的一个领域 S = { ∣ x − x ∗ ∣ < δ } ⊂ I S=\left\{|x-x^*|<\delta\right\}\subset I S={∣x−x∗∣<δ}⊂I，对$\forall x_0\in S$,迭代法生成的序列 { x k } ⊂ S \left\{x_k\right\}\subset S {xk​}⊂S,且收敛于$x^{\ast }$，则称迭代序列局部收敛。

定理6.2

设$x^{\ast }$为$\phi$的不动点，${\phi }^{\prime }(x)$在$x^{\ast }$的邻域$S$连续，且$|{\phi }^{\prime }(x^{\ast })|<1$，则迭代法局部收敛

定义6.2

设序列 { x k } \left\{x_k\right\} {xk​}收敛于$x^{\ast }$，记误差${\epsilon }_k=x_k-x^{\ast }$，若存在实数$p\ge 1$及$a>0$，使
$$\underset{k\to \infty }{\lim }\frac{|{\epsilon }_{k+1}|}{|{\epsilon }_k{|}^p}=a$$
则称序列 { x k } \left\{x_k\right\} {xk​}是$p$阶收敛的，$a$称为渐进误差常数，当$p=1$时，$0<a<1$，称为线性收敛。$p=2$称为平方收敛

定理6.3

设$x^{\ast }$为$\phi$的不动点，整数$p>1$，${\phi }^{(p)}(x)$在$x^{\ast }$的邻域连续，且满足
$${\phi }^{\prime }(x^{\ast })=...={\phi }^{(p-1)}(x^{\ast })=0,而{\phi }^{(p)}(x^{\ast })\ne 0$$
则有迭代法生成的序列 { x k } \left\{x_k\right\} {xk​}在$x^{\ast }$的邻域是$p$阶收敛的，并有
$$\underset{k\to \infty }{\lim }\frac{{\epsilon }_{k+1}}{{\epsilon }_k^p}=\frac{{\phi }^{(p)}(x^{\ast })}{p!}$$

6.4 Steffensen加速迭代法

思想来源

设$x^{\ast }=\phi (x^{\ast })$是$\phi$的不动点，记${\epsilon }_k=x_k-x^{\ast }$，利用中值定理有
$$\frac{{\epsilon }_{k+1}}{{\epsilon }_k}=\frac{x_{k+1}-x^{\ast }}{x_k-x^{\ast }}=\frac{\phi (x_k)-\phi (x^{\ast })}{x_k-x^{\ast }}={\phi }^{\prime }({\xi }_k)$$
${\xi }_k$在$x^{\ast }$与$x_k$之间，若${\phi }^{\prime }(x)$变化不大，设${\phi }^{\prime }({\xi }_k)\approx C$，于是有
$$\begin{gathered} x_{k+1}-x^{\ast }\approx C(x_k-x^{\ast }) \\ {x}_{k+2}-x^{\ast }\approx C(x_{k+2}-x^{\ast }) \end{gathered}$$
从上两式消去$C$，则得
$$\frac{x_{k+2}-x^{\ast }}{x_{k+1}-x^{\ast }}\approx \frac{x_{k+1}-x^{\ast }}{x_k-x^{\ast }}$$
解得
$$x^{\ast }=\frac{x_{k+2}{x}_k-x_k^2}{x_{k+2}-2x_{k+1}+x_k}=x_k-\frac{(x_{k+1}-x_k{)}^2}{x_{k+2}-2x_{k+1}+x_k}$$

特性

局部收敛，二阶收敛

6.5 Newton 迭代法

思想来源

求$x^{\ast }$，如果已知它的一个近似$x_k$，可利用Taylor展开式求出$f(x)$在$x_k$附近的线性近似，即
$$f(x)=f(x_k)+f^{\prime }(x_k)(x-x_k)+\frac{f^{\prime \prime }(\xi )}{2}(x-x_k{)}^2$$
忽略余项，得到近似
$$f(x)\approx f(x_k)+f^{\prime }(x_k)(x-x_k)=0$$
若$f^{\prime }(x_k)\ne 0$，则$x=x_k-\frac{f(x_k)}{f^{\prime }(x_k)}$

特性

局部收敛，二阶收敛

6.6 Newton下山法

将Newton迭代改为：
$$x_{k+1}=x_k-{\lambda }_k\frac{f(x_k)}{f^{\prime }(x_k)},k=0,1,...$$
其中$0<{\lambda }_k\le 1$，称为下山因子。

选择${\lambda }_k$使$|f(x_{k+1})|<|f(x_k)|$

6.7 重根情形

当$f^{\prime }(x^{\ast })=0$，且$x^{\ast }$为方程的m重根。此时$f(x)=(x-x^{\ast }{)}^{m}g(x)，g(x^{\ast })\ne 0$。将迭代函数改为
$$x_{k+1}=x_k-m\frac{f(x_k)}{f^{\prime }(x)}$$
具有二阶收敛

6.8 割线法

用割线斜率代替导数，即
$$f^{\prime }(x_k)=\frac{f(x_k)-f(x_{k-1})}{x_k-x_{k-1}}$$
则有新的迭代法
$$x_{k+1}=x_k-\frac{f(x_k)}{f(x_k)-f(x_{k-1})}(x_k-x_{k-1})$$