(1)迭代法概述
求大型稀疏线性方程组
基本思想:构造向量序列
x
(
k
)
{x^{(k)}}
x(k),使它的极限
x
x
x是
A
x
=
b
Ax=b
Ax=b的解
1.向量序列和矩阵序列的收敛性
必须每一个分量都收敛,
x
x
x作为一个向量才收敛
只有零向量的向量范数为0
只有零矩阵的矩阵范数为0
构造出来的结果不一定收敛
(2)几种基本的迭代法
Jacobi迭代法
矩阵形式:
x
(
k
+
1
)
=
M
J
x
(
k
)
+
g
J
x^{(k+1)}=M_Jx^{(k)}+g_J
x(k+1)=MJx(k)+gJ
高斯-塞德尔迭代法
松弛法(SOR法)
(3)迭代法的收敛条件
###1.矩阵的谱半径
因为不能保证在实数域上有n个根
不太方便使用,因为要求所有的特征值
推论,虽然不是充要条件了,但是更方便证明和使用
行列式的值等于所有特征值的乘积
迭代格式的收敛性由迭代矩阵确定,因此只与系数矩阵和方法有关,与右端项无关
解题步骤
误差估计
(4)最速下降法与共轭梯度法
与线性方程组等价的变分问题
看第二章最小二乘部分,有相关证明
最速下降法
整体上看,最速下降法是一种效率很低的方法,是因为相邻两次的搜索方向是正交的
共轭梯度法(共轭斜量法)
对正定二次函数,
β
k
−
1
\beta_{k-1}
βk−1等价,下图结论不做推导
有多少个变量,就会至多进行多少次得到结果