非线性方程的数值解法

设有一个单变量的非线性方程$f(x)=0$，往往这样的方程没有直接的求根公式，因此没有直接方法计算，只能使用迭代法来求数值解，二分法就是这样的一种方法，这里介绍一下其他的几种方法

不动点迭代法

我们可以将非线性方程$f(x)=0$改写为$x=\varphi (x)$，满足这样式子的x称作$\varphi (x)$的一个不动点，求$f(x)$的零点就等价于求$\varphi (x)$的不动点，可以选定一个初始值$x_0$代入等式的右侧，然后一直以$$x_{k+1}=\varphi (x_k)$$的方式迭代下去，这样可以获得一个序列，如果序列 { x k } \{x_k\} { xk​}有极限：$$\underset{k->\infty }{\lim }{x}_k=x^{\ast }$$则称该迭代法为不动点迭代法。
我们可以用几何图像来表达不动点迭代法的思想：

如图，选定了初始值$x_0$，然后计算出$\varphi (x_0)$得到了$P_0$，然后再过$(x_0,P_0)$引一条与x轴平行的直线，它与直线$y=x$交于点$Q_1(P_0,P_0)$，然令$x_1=P_0$，沿着图上的路径继续走下去，可以发现最终点列 { P k } \{P_k\} { Pk​}会收敛到$P^{\ast }$，也就是最终迭代的值$x_k$会收敛到想要的$x^{\ast }$。

尽管在这个图上最终的结果是收敛的，但是这并不意味着采用不动点迭代法一定是收敛的

例如在这个图上，用不动点迭代法就是不收敛的，点列 { P k } \{P_k\} { Pk​}会一直往偏离$P^{\ast }$的方向移动。

不动点的存在性和迭代的收敛性
首先考虑$\varphi (x)$在$[a,b]$上不动点的存在性和唯一性：
定理1：若$\varphi (x)$在$[a,b]$上满足：
(1)对于任意的$x\in C[a,b]$，都有$a<=\varphi (x)<=b$
(2)存在正常数$L<1$，使对任意的$x,y\in [a,b]$，都有$|\varphi (x)-\varphi (y)|<=L|x-y|$
那么$\varphi (x)$在$[a,b]$上存在唯一的不动点$x^{\ast }$

证：
若$\varphi (a)=a$或$\varphi (b)=b$ 那么不动点显然存在
若$\varphi (a)>a$且$\varphi (b)<b$，则设函数$$f(x)=\varphi (x)-x$$
由已知有$f(a)=\varphi (a)-a>0$，$f(b)=\varphi (b)-b<0$，由连续函数的性质可知，存在$x^{\ast }\in (a,b)$使得$f(x^{\ast })=0$
因此不动点一定存在，下面证其唯一性：
设$x_1^{\ast }，x_2^{\ast }$都是$\varphi (x)$在$(a,b)$上的不动点，则由条件(2)可知：$|x_1^{\ast }-x_2^{\ast }|=|\varphi (x_1\ast )-\varphi (x_2\ast )|<L|x_1^{\ast }-x_2^{\ast }|<|x_1^{\ast }-x_2^{\ast }|$ ，矛盾
因此不动点唯一。

定理2：
设$\varphi (x)\in C[a,b]$满足定理1中的两个条件，则对于任意选定的 x 0 ∈ [ a , b ] x_0∈[a,b]