jacobi迭代法matlab_解线性方程组的经典迭代法(1)-理论

本文复习求解线性方程组的经典迭代法的理论部分，且主要是单步迭代法.

下一节将会是MATLAB编程实现，并大概比较下各算法的优劣.

我们考虑的问题是求解线性方程组

,其中

是n阶实方阵，

是n维列向量.

目录

1. 迭代法的一般格式
2. Jacobi迭代
3. Gauss-Seidel迭代
4. JOR迭代
5. SOR迭代

1.一般格式

单步迭代法的一般格式是

,

是迭代初值，矩阵

被称为

迭代矩阵.

任意给定初值后，由上述迭代格式可以确定一列向量

,若有

，则称迭代格式是

收敛的.

若迭代格式收敛，在迭代格式两端取极限，得

,为了由此方程得到原方程得解，我们引入相容性的概念：称

与方程

是

相容的，若存在可逆n阶方阵

，使得

。可以看出，若相容性条件满足，迭代所得的极限就是原方程的解.

下面给出迭代收敛的充要条件

定理1.1 任给初值

,迭代格式

收敛的充要条件是迭代矩阵

的谱半径

.

实际应用中，谱半径的计算是非常困难的，注意到矩阵的谱半径与矩阵范数的关系，可以给出下面的更易行的收敛性判据和先验与后验误差估计.

定理1.2 若存在由某向量范数

诱导出的矩阵范数

,使得

,则迭代法收敛，且有下列误差估计式

（1）

（2）

上面第一个式子叫做先验误差估计，即可以通过最初两步的迭代值估计出第k步与真值的误差.第二个式子叫做后验误差估计，即可以通过最近算完的k和k-1两步估计出k步与真值的误差.

在实际应用中，计算机只能计算有限步，故我们采用有限次迭代后的结果逼近真实解.上面两式给出了逼近的误差估计。若要求误差不超过

，当迭代序列

逼近真实解时，

已经很小了，（2）式中的系数

若忽略不计，可以得到迭代时的中止条件

，这个条件容易编程实现.

观察(1)式可见，迭代法的收敛速度估计可由

来决定，定义

,来刻画

收敛速度.但是对于不同的迭代矩阵，随着k的值不同，迭代速度常常没有固定的大小关系，为此我们定义 渐进收敛速度：

.进一步我们有下面的定理：

定理 1.3 若单步迭代法的迭代矩阵为

，则

.

4.2 Jacobi迭代法

做下列约定，给定方阵

，

的元素可分为三类：主对角线，主对角线下的，主对角线上的。将这三类元素分开，得到矩阵

的分解

,其中

分别是下三角，对角，上三角矩阵.

假设

可逆，对方程

，保留对角线元素不动，其余元素移至右边，得到

,等价于

,从而可以构造Jacobi迭代格式：

对于上述迭代法，我们有如下的收敛性判据

定理 2.1 若系数矩阵

对称，对角元都大于零，则Jacobi迭代法收敛的充要条件是

都是正定矩阵.

此外还有更易于验证的充分条件

定理 2.2 若系数矩阵

严格对角占优或者不可约对角占优，则Jacobi迭代法收敛.

4.3 Gauss-Seidel迭代法

改进Jacobi方法，考虑到计算

,时使用到的全部是

的分量，若先计算并更新

,再将更新后的值用于计算

，依次类推，最后完全计算得到

，这就是Gauss-Seidel迭代法.

G-S迭代法有矩阵格式如下：

类似上一节，有下面的收敛判据

定理 3.1

实对称且正定，则G-S迭代法收敛.

定理 3.2

严格对角占优或不可约对角占优，则G-S迭代法收敛.

4.4 JOR迭代

逐次超松弛迭代(Successive Overrelaxation Iteration ) 是用于加速经典迭代格式的一种技术，通过引入适当的松弛因子来加快收敛速度.

本节以应用于Jacobi迭代来阐明此加速技术，得到JOR迭代法.

以下凡涉及某矩阵的逆，都假设其存在.

Jacobi迭代有等价形式

相邻两项差值

,对差值引入松弛因子

,得到

,整理即得

JOR迭代格式：

自然地，我们期望随着松弛因子不同，收敛的速度会发生改变，那么松弛因子取什么值最佳？下面的定理回答了这个问题.

定理 4.1 当Jacobi迭代法的迭代矩阵

特征值为实数，且谱半径小于1时，JOR迭代法有最佳松弛因子

,其中

是

的最小和最大特征值.此外，若

时，JOR迭代的收敛速度快于Jacobi迭代.

下面是JOR迭代收敛性判据

定理 4.2

具有正对角元且对称，则JOR法收敛的充要条件是

均正定.

定理 4.3 若已有Jacobi迭代法收敛且

，则JOR法收敛.

具体地，我们有下列定理

定理 4.4 若

严格对角占优或不可约对角占优，则松弛因子

的JOR迭代法收敛.

4.5 SOR迭代

本节将逐次超松弛迭代技术用于G-S迭代法，得到SOR迭代法.

将G-S迭代格式改写为

,对上式引入松弛因子得到

，整理得SOR迭代

.

对于收敛性，我们有下面的定理

定理 5.1 SOR法收敛的必要条件是

.

定理 5.2 当

对称正定时，

是SOR法收敛的充要条件.

定理 5.3 当

严格对角占优或不可约对角占优，则

时SOR法收敛.

关于最佳松弛因子，我们有下面的定理

定理 5.4 SOR方法收敛的最佳松弛因子是

本文内容大概就是这些，成文仓促，如有错误，欢迎指正.

下一节将会是编程实现，并用于求解逼近微分方程的线性方程组并用实例粗略地比较各个迭代法的收敛速度.