不动点迭代之安德森加速

最新推荐文章于 2024-08-12 15:15:02 发布

夜晓岚渺渺

最新推荐文章于 2024-08-12 15:15:02 发布

阅读量7k

点赞数 6

分类专栏：线性代数迭代计算

本文链接：https://blog.csdn.net/kkxi123456/article/details/102669380

版权

线性代数同时被 2 个专栏收录

3 篇文章

订阅专栏

迭代计算

2 篇文章

订阅专栏

在数学中，函数的不动点（Fixed point, or shortened to fixpoint, also knowns as invariant point)，指的是在函数定义域内的某一个值，经过函数映射后的值还是其本身。在科学和工程领域中，很多问题可以归结为不动点问题，如下：

$x = G(x)\cdots\cdots\cdots\cdots\cdots\cdots \cdots \cdots (1)$

这里 $x\in \mathbb{C}^{n}$ 和 $G: \mathbb{C}^{n}\rightarrow \mathbb{C}^{n}$ 是一个映射( $\mathbb{C}$ 是复数空间)。 (1)可以使用不动点迭代方法求解，如下

$\textup{\textbf{Fixed-point iteration}}\\ \indent\textup{Given an initial guess}~x_0\\ \indent \text{for~k=0,1,2,}\cdots\\ \indent\indent\text{Set} ~x_{k+1}=G(x_{k})\cdots\cdots\cdots\cdots(2)\\ \indent \text{end}$

此迭代格式若收敛，需要满足一定的收敛条件。在收敛性满足条件下，为了加速不动点跌倒的收敛速度，最初的想法是在迭代格式（2）后引入一个松弛迭代，进行外推加速。如下：

$\left\{\begin{matrix} x^{*}_{k+1}=G(x_k)\\ x_{k+1}=\omega x^{*}_{k+1}+(1-\omega)x_k \end{matrix}\right.$

这里 $\omega$ (一般选为实数，也可以是一个复数)是一个松弛因子。最终的迭代格式等价于 $x_{k+1}=\omega G(x_k)+(1-\omega)x_k$ 。借鉴这个思想，求解不动点问题(1)的安德森加速方法如下：

$\noindent\textbf{Anderson~Acceleration(AA)~method}\\ \indent\textup{Given an initinal guess} ~x_{0}~ \textup{and} ~m\geqslant 1}\\ \indent\textup{Set}~x_1=G(x_0)\\ \indent \textup{for}~k=1,2,3\cdots\\ \indent\indent \textup{Set}~m_k=\min(m,k).\\ \indent\indent F_k=(f_{k-m_k},\cdots\cdots,f_k), where ~ f_i=G(x_i)-x_i.\\ \indent\indent Determine~\alpha^{(k)}=(\alpha^{(k)}_{0},\cdots\cdots,\alpha^{(k)}_{m_{k}})^T~that~solves\\ \indent\indent\indent \displaystyle\min_{\alpha=(\alpha_0,\cdots\cdots,\alpha_{mk})^T}}\|F_k\alpha\|_2~s.t.~ \sum^{m_k}_{i=0}\alpha_i=1.\\ \indent\indent\textup{Set}~x_{k+1}=\sum^{m_k}_{i=0}\alpha^{(k)}_{i}G(x_{k-m_k+i})\\ \indent \textup{end}$