数值分析某年期末题（实质上考察 Jacobi 的松弛法）

Jacobi 松弛法

Jacobi 松弛法是一种迭代方法，用于解线性方程组。在每次迭代中，Jacobi方法将方程组中的每个变量分别表示为其他变量的线性组合，并利用这些线性组合来更新每个变量的值。松弛法是Jacobi方法的一种改进，它引入了一个松弛因子，可以加快收敛速度。

---

已知求解线性方程组 $\mathbf{Ax}=\mathbf{b}$ 的迭代格式:
$$x_i^{(k+1)}=x_i^{(k)}+\frac{\mu }{a_{ii}}\left(b_i-\sum _{j=1}^n{a}_{ij}{x}_j^{(k)}\right),i=1,2,\dots n$$
(1) 求此迭代法的迭代矩阵 $\mathbf{M}(\mathbf{A}=\mathbf{D}-\mathbf{L}-\mathbf{U})$ ；

(2) 当 $A$ 是严格行对角占优矩阵, $\mu =0.5$ 时, 给出 $\Vert \mathbf{M}{\Vert }_{\infty }$ 表达式, 并证明此时迭代格式收敛.

(1) 要求迭代矩阵 $M$ ，我们首先需要明确分解系数矩阵 $\mathbf{A}$ 为 $\mathbf{D}-\mathbf{L}-\mathbf{U}$ ，其中 $\mathbf{D}$ 是 $\mathbf{A}$ 的对角部分， $\mathbf{L}$ 是严格下三角部分 (所有上三角元素为0)， $\mathbf{U}$ 是严格上三角部分（所有下三角元素为 $ 0) $ .

将迭代格式重写为更符合矩阵运算的形式:
$${\mathbf{x}}^{(k+1)}={\mathbf{x}}^{(k)}+\mu {\mathbf{D}}^{-1}\left(\mathbf{b}-\mathbf{A}{\mathbf{x}}^{(k)}\right)$$
展开后得到：
$${\mathbf{x}}^{(k+1)}=(\mathbf{I}-\mu {\mathbf{D}}^{-1}\mathbf{A}){\mathbf{x}}^{(k)}+\mu {\mathbf{D}}^{-1}\mathbf{b}$$
因此$\mathbf{M}=\mathbf{I}-\mu {\mathbf{D}}^{-1}\mathbf{A}$.

(2) 将 $\mathbf{A}=\mathbf{D}-\mathbf{L}-\mathbf{U}$ 代入$\mathbf{M}$得：
$$\begin{array}{rl}\mathbf{M}& =\mathbf{I}-\mu {\mathbf{D}}^{-1}(\mathbf{D}-\mathbf{L}-\mathbf{U})\\ & =\mathbf{I}-\mu {\mathbf{D}}^{-1}\mathbf{D}+\mu {\mathbf{D}}^{-1}(\mathbf{L}+\mathbf{U})\\ & =I-\mu I+\mu {\mathbf{D}}^{-1}(\mathbf{D}-\mathbf{A})\\ & =(1-\mu )\mathbf{I}+\mu (\mathbf{I}-{\mathbf{D}}^{-1}\mathbf{A})\end{array}$$
其中矩阵
$$\mathbf{I}-{\mathbf{D}}^{-1}\mathbf{A}=\left(\begin{array}{cccc}0& -\frac{a_{12}}{a_{11}}& \cdots & -\frac{a_{1n}}{a_{11}}\\ -\frac{a_{21}}{a_{22}}& 0& \cdots & -\frac{a_{2n}}{a_{22}}\\ ⋮& ⋮& & ⋮\\ -\frac{a_{n1}}{a_{nn}}& -\frac{a_{n2}}{a_{nn}}& \cdots & 0\end{array}\right)$$

由$\mathbf{A}$是严格行对角占优知
$${\Vert \mathbf{I}-{\mathbf{D}}^{-1}\mathbf{A}\Vert }_{\infty }=\underset{1⩽i⩽n}{\max }\sum _{\begin{array}{c}j=1\\ j\ne i\end{array}}\frac{\left|a_{ij}\right|}{\left|a_{ii}\right|}=\underset{1⩽i⩽n}{\max }\frac{\sum _{\begin{array}{c}j=1\\ j\ne i\end{array}}^n\left|a_{ij}\right|}{\left|a_{ii}\right|}<1$$
当$ {\mu}={0 . 5} $ 时
$$\Vert \mathbf{M}{\Vert }_{\infty }=\Vert \frac{1}{2}\mathbf{I}+\frac{1}{2}(\mathbf{I}-{\mathbf{D}}^{-1}\mathbf{A}){\Vert }_{\infty }$$
再由范数的的齐次性及三角不等式可得：
$$\Vert \mathbf{M}{\Vert }_{\infty }=\Vert \frac{1}{2}\mathbf{I}+\frac{1}{2}(\mathbf{I}-{\mathbf{D}}^{-1}\mathbf{A}){\Vert }_{\infty }⩽\frac{1}{2}\Vert I{\Vert }_{\infty }+\frac{1}{2}\Vert \mathbf{I}-{\mathbf{D}}^{-1}\mathbf{A}{\Vert }_{\infty }<\frac{1}{2}\cdot 1+\frac{1}{2}\cdot 1=1$$
此时迭代格式收敛得证.

---

上面的问题实质上是对Jacobi 迭代法引进迭代参数以此加快迭代速度，与Gauss-Seidel方法(SOR)类似, 相比之下Jacobi 的松弛法更加简单.

若求解$\mathbf{Ax}=\mathbf{b}$的Jacobi 方法收敛，则Jacobi 松弛法收敛的充分必要条件是$\rho (\mathbf{I}-\mu {\mathbf{D}}^{-1}\mathbf{A})<1$.
$${\mathbf{x}}^{(k+1)}=(\mathbf{I}-\mu {\mathbf{D}}^{-1}\mathbf{A}){\mathbf{x}}^{(k)}+\mu {\mathbf{D}}^{-1}\mathbf{b}$$
下面证明对任意$0<\mu ⩽1$都有Jacobi 松弛法收敛.

证明： 令 ${\lambda }_j,{\lambda }_j^{{}^{\prime }}(j=1,\cdots ,n)$ 分别为 $I-D^{-1}A$ 和 $I-\mu D^{-1}A$ 的特征值. 由
$$I-\mu D^{-1}A=\mu \left(I-D^{-1}A\right)+(1-\mu )I$$
可以导出
$${\lambda }_j^{{}^{\prime }}=\mu {\lambda }_j+(1-\mu ).$$

令 ${\lambda }_j=r_j{\mathrm{e}}^{\mathrm{i}{\theta }_j}$, 则由 Jacobi 方法收敛的假设可知 $r_j<1$. 于是对 $0<\mu ⩽1$ 有
$${\left|{\lambda }_j^{{}^{\prime }}\right|}^2={\left|\mu r_j{\mathrm{e}}^{\mathrm{i}{\theta }_j}+1-\mu \right|}^2⩽{\left(1-\mu +\mu r_j\right)}^2<1,$$
所以 Jacobi 松弛法收敛. 证毕.

---