四、矩阵特征值与特征向量的计算

1 幂法和反幂法

1.1 幂法

幂法主要用于求矩阵的按模[1]最大的特征值与相应的特征向量。它是通过迭代产生向量序列，由此计算特征值和特征向量。

设$n\times n$阶实矩阵$A$的特征值${\lambda }_i(i=1,2,\dots ,n)$满足：

$$|{\lambda }_1|>|{\lambda }_2|\ge \cdots \ge |{\lambda }_n|$$

且与${\lambda }_i(i=1,2,\dots ,n)$相应的特征向量$u_1,u_2,\dots ,u_n$线性无关。（？为什么线性无关）

给定初始向量$x^{(0)}\ne 0$，由迭代公式

$$x^{(k+1)}=A{x}^{(k)}(k=0,1,2,\dots )(4-1)$$

产生向量序列 { x ( k ) } \{x^{(k)}\} {x(k)}，可以证明，当$k$充分大时，有${\lambda }_i\approx x_i^{(k+1)}/x_i^{(k)}$，相应的特征向量为$x^{(k+1)}$。

为简便起见，不妨设$\Vert u_i\Vert =1(i=1,2,\dots ,n)$。因为$u_i$线性无关（线性无关的概念），故必存在n个不全为零的数${\alpha }_i(i=1,2,\dots ,n)$，使得$x^{(0)}=\sum _{i=1}^n{\alpha }_i{u}_i$。由式（4-1）得：

$$x^{(k+1)}=A{x}^{(k)}=A^{K+1}{x}^{(0)}=\sum _{i=1}^n{A}^{k+1}({\alpha }_i{u}_i)$$

即：

$$x^{(k+1)}={\lambda }_1^{k+1}[{\alpha }_1{u}_1+(\frac{{\lambda }_2}{{\lambda }_1}){\alpha }_2{u}_2+\cdots +(\frac{{\lambda }_n}{{\lambda }_1}){\alpha }_n{u}_n](4-2)$$

设${\alpha }_i\ne 0$，由$|{\lambda }_1|>|{\lambda }_i|(i=2,3,\dots ,n)$得：

$$\underset{k\to \infty }{\lim }(\frac{{\lambda }_i}{{\lambda }_1}{)}^{k+1}{\alpha }_i{u}_i=0$$

于是：

$$\underset{k\to \infty }{\lim }\sum _{i=2}^n(\frac{{\lambda }_i}{{\lambda }_1}){\alpha }_i{u}_i=0$$

故只要k充分大，就有：

$$x^{(k+1)}={\lambda }_1^{k+1}[{\alpha }_1{u}_1+\sum _{i=2}^n(\frac{{\lambda }_i}{{\lambda }_1}){\alpha }_i{u}_i]\approx {\lambda }_1^{k+1}{\alpha }_1{u}_1(4-3)$$

因此，可把$x^{(k+1)}$作为与${\lambda }_1$相应的特征向量的近似。由式：

$$x^{(k+1)}\approx {\lambda }_1^{k+1}{\alpha }_1{u}_1,x^{(k)}\approx {\lambda }_1^k{\alpha }_1{u}_1$$

此时我们可以得出：

$${\lambda }_1\approx \frac{x_i^{(k+1)}}{x_i^{(k)}}(i=1,2,\dots ,n)(4-4)$$

其中$x_i^{(k)}$为$x^{(k)}$的第i个分量。按式（4-1）和式（4-4）计算矩阵$A$按模最大的特征值与相应的特征向量的方法称为幂法。

需要说明的是，如果$x^{(0)}$的选取恰恰使得${\alpha }_1=0$，幂法计算仍能进行。因为计算过程中舍入误差的影响，迭代若干次后，必然会产生一个向量$x^{(k)}$，它在$u_1$方向上的分量不为零。这样，以后的计算就满足所设条件。另外需要注意的一点是，因为$x^{(k)}\approx {\lambda }_1^k{\alpha }_1{u}_1$，计算过程中可能会出现溢出($|{\lambda }_1|>1$)或成为0($|{\lambda }_1|<1$)的情形。为避免这一情形的出现，实际计算时每次迭代所求的的向量都要归一化。因此，幂法实际使用的计算公式是：

$$\{\begin{array}{l}{y}^{(k)}=\frac{x^{(k)}}{x_r^{(k)}},|x_r^{(k)}|=\underset{1\le i\le n}{\max }|x_i^{(k)}|(k=0,1,2,\dots )\\ x^{(k+1)}=A{y}^{(k)}\\ {\lambda }_1\approx x_r^{(k+1)}\end{array}(4-5)$$

待补充 92

1.2 幂法的加速

因为幂法的收敛条件是线性的，而且依赖于收敛因子$|{\lambda }_2/{\lambda }_1|$，当收敛因子接近于1时，幂法收敛很慢。幂法的加速有许多方法，下面介绍其中两种。

原点移位法

容易看出，矩阵$A$与$A-{\lambda }_{0}I$的特征值有以下关系：若${\lambda }_i$是$A$的特征值，则${\lambda }_i-{\lambda }_0$就是$A-{\lambda }_{0}I$的特征值，而且相应的特征向量不变。如果对矩阵$A-{\lambda }_{0}I$按式（4-1）计算，则有：

$$\begin{gathered} x^{k+1}=(A-{\lambda }_{0}I)x^{(k)} \\ =({\lambda }_1-{\lambda }_0{)}^{k+1}[{\alpha }_1{u}_1+(\frac{({\lambda }_2-{\lambda }_0)}{({\lambda }_1-{\lambda }_0)}){\alpha }_2{u}_2+\cdots +(\frac{({\lambda }_n-{\lambda }_0)}{({\lambda }_1-{\lambda }_0)}){\alpha }_n{u}_n] \end{gathered}$$

适当选取${\lambda }_0$，使得$|{\lambda }_1-{\lambda }_0|>|{\lambda }_i-{\lambda }_0|$，且：

$$|\frac{{\lambda }_i-{\lambda }_0}{{\lambda }_1-{\lambda }_0}|<|\frac{{\lambda }_2}{{\lambda }_1}|(i=2,3,\dots ,n)$$

这样，用幂法计算$A-{\lambda }_{0}I$的最大模特征值${\lambda }_1-{\lambda }_0$及相应特征向量的收敛速度比对$A$用幂法计算要快。这种加速收敛的方法称为原点移位法。

待补充

幂法的艾特肯（Aitken）加速

如果序列 { a k } \{a_k\} {ak​}线性收敛到$a$，即：

$$\underset{k\to \infty }{\lim }\frac{a_{k+1}-a}{a_k-a}=c\ne 0$$

则当$k$充分大时，有

$$\frac{a_{k+2}-a}{a_{k+1}-a}\approx \frac{a_{k+1}-a}{a_{k+1}-a}\approx \frac{a_{k+1}-a}{a_k-a}$$

由此可解出：

$$a\approx \frac{a_{k+2}{a}_k-a_{k+1}^2}{a_{k+2}-2a_{k+1}+a_k}=a_k-\frac{(a_{k+1}-a_k{)}^2}{a_{k+2}-2a_{k+1}+a_k}=\widehat{a_k}(4-10)$$

序列 { a k ^ } \{\hat{a_k}\} {ak​^​}比 { a k } \{a_k\} {ak​}更快地收敛到$a$，这就是Aitken加速法。将这一方法用于幂法所产生的序列 { a k } \{a_k\} {ak​}，可加快幂法的收敛速度。

待补充

1.3 反幂法

反幂法是计算矩阵按模最小的特征值及特征向量的方法，也是修正特征值、求相应特征向量的最有效的方法。

设 $A$ 为 $n\times n$ 阶非奇异矩阵，$\lambda ,u$为$A$的特征值与相应的特征向量，则$A^{-1}$的特征值是$A$的特征值的倒数，而相应的特征向量不变，即：

$$A^{-1}u=\frac{1}{\lambda }u$$

因此，若对矩阵$A^{-1}$用幂法，即可计算出$A^{-1}$的按模最大的特征值，其倒数恰为$A$的按模最小的特征值。这就是反幂法的基本思想。

因为$A^{-1}$的计算比较麻烦，而且往往不能保持矩阵$A$的一些好性质（如稀疏性），因此，反幂法在实际运算时以求解方程组：

$$A{x}^{(k+1)}=x^{(k)}(4-12)$$

代替幂法迭代：

$$x^{(k+1)}=A^{-1}{x}^{(k)}$$

求得$x^{(k+1)}$，每迭代一次要解一个线性方程组（4-12）。由于矩阵在迭代过程中不变，故可对$A$先进行三角分解。这样，每次迭代只要解两三个三角方程组。

待补充

补充内容

[1] 假定矩阵 $A$ 有 n 个线性无关的特征向量，n个特征值按模由大到小排列：
$$|{\lambda }_1|\ge |{\lambda }_2|\ge \cdots \ge |{\lambda }_n|$$
那么${\lambda }_1$是按模最大特征值。