[数值分析]不动点迭代方法的几何原理

之前学不动点迭代法的时候，一直有一个疑惑，就是为什么不动点迭代最后可以收敛到两个函数之间的交点，为什么只要不断代入得到的收敛序列就是方程的解？感谢视频$\to$不动点迭代详解，让作者终于理解了不动点迭代法

一、不动点迭代法介绍

初等数学中的方程都可以写作
$$f(x)=0\text{\hspace{1em}(1-1)}$$
经过一些简单的改写便可以得到
$$x=\phi (x)\text{\hspace{1em}(1-2)}$$
如果有$x^{\ast }$满足方程$(1-2)$，则称$x^{\ast }$为该方程的一个不动点，那么求方程$(1-1)$的解也就是求$f(x)$的零点，便等价于求$\phi (x)$的不动点。

我们从初始的$x_0$出发，构造迭代
$$x_{n+1}=\phi (x_n)$$
也就是不断地将上一个$x$代入$\phi (x)$中，以获得下一个$x$，这样我们就可以获得一个序列 { x n } \{x_n\} {xn​}，如果该序列是收敛的，那么便会收敛到方程$(1-1)$的解。

二、几何意义

我本人最大的疑惑就是，为什么将上一个点不断代入到$\phi (x)$中，所得到的收敛序列的极限一定是方程$(1-1)$的解呢？

观察上图可以知道，实际上求不动点就是在求$y=\phi (x)$和$y=x$的交点，而不动点迭代法的步骤如下

• 首先将$x_0$代入$\phi (x)$中获得一个点，以相同的$y$值对应到直线$y=x$上，由于$y=x$的横纵坐标相同，我们就可以轻松获得$x_1=\phi (x_0)$
• 重复上述步骤，$x$值将会不断逼近不动点（交点）

从上面的图可以看出来，实际上序列 { x n } \{x_n\} {xn​}在以螺旋逼近的思想趋近于交点，最终数列的极限就是$\phi (x)$的不动点。