http://blog.csdn.net/pipisorry/article/details/39891197
共轭梯度法(Conjugate Gradient)
共轭梯度法(英语:Conjugate gradient method),是求解数学特定线性方程组的数值解的方法,其中那些矩阵为对称和正定。共轭梯度法是一个迭代方法,它适用于稀疏矩阵线性方程组,因为这些系统对于像Cholesky分解这样的直接方法太大了。这种方程组在数值求解偏微分方程时很常见。共轭梯度法也可以用于求解无约束的最优化问题。
在数值线性代数中,共轭梯度法是一种求解对称正定线性方程组的迭代方法。共轭梯度法可以从不同的角度推导而得,包括作为求解最优化问题的共轭方向法的特例,以及作为求解特征值问题的Arnoldi/Lanczos迭代的变种。
双共轭梯度法提供了一种处理非对称矩阵情况的推广。
基础
共轭向量
显然,共轭向量是线性无关向量.
初等变分原理
最速下降算法的有关性质
范数的‖・‖A的定义为‖x‖A=(Ax,x)。
上面定理表明,最速下降法从任何一向量x(0)出发,迭代产生的数列总是收敛到原方程Ax=b的解.而收敛速度的快慢则由A的特征值分布所决定.当A的最小特征值和最大特征值相差很大时λ1<<λn,最速下降法收敛速度很慢,很少用于实际计算.
分析最速下降法收敛较慢的原因,可以发现,负梯度方向从局部来看是二次函数的最快下降方向,但是从整体来看,却并非最好.对于对称正定矩阵A,共轭梯度法考虑选择关于A共轭的向量p1,p2,...代替最速(0)下降法中的负梯度方向,使迭代法对任意给定的初始点x具有有限步收敛性,即经有限步就可以(在理论上)得到问题的准确解.
共轭梯度算法
计算共轭梯度算法同时构造出关于A共轭的向量pi
求解Ax = b的算法,其中A是实对称正定矩阵。
- x 0 := 0
- k := 0
- r 0 := b-Ax
-
repeat until
r
k is "sufficiently small":
- k := k + 1
-
if k = 1
- p 1 := r 0
-
else
-
- end if
-
- x k := x k-1 + α k p k
- r k := r k-1 - α k A p k
- end repeat
- 结果为 x k 或者
-
共轭梯度法评价
其优点是所需存储量小,具有步收敛性,稳定性高,而且不需要任何外来参数。
![](http://upload.wikimedia.org/wikipedia/commons/thumb/b/bf/Conjugate_gradient_illustration.svg/220px-Conjugate_gradient_illustration.svg.png)
from:http://blog.csdn.net/pipisorry/article/details/39891197
ref: [wiki 共轭梯度法] [wiki 共轭梯度法的推导]
[数值分析 钟尔杰]