Matlab求解线性方程组（一）共轭梯度法

一，算法原理

 共轭梯度法可以看作是特殊的迭代法，有迭代法的格式，即首先给出x(0),再由迭代格式

$x^{(k+1)}=x^{(k)}+{\alpha }_k{d}^{(k)}$

进行迭代，那么关键就是求出两个因素：方向$d^{(k)}$和步长${\alpha }_k$。

 首先确定最佳步长${\alpha }_k$，假设$x^{(k)}$和搜索方向$d^{(k)}$已给定，那么通过一元函数

$\varphi (\alpha )=f(x^{(k)}+{\alpha }_k{d}^{(k)})$

求极小值。令${\varphi }^{\prime }(\alpha )=0$ ($\alpha$ 为变量，其他为已知数)得到：

${\left[A\left(x^{(k)}+\alpha d^{(k)}\right)-b\right]}^T{d}^{(k)}=0$
( − r ( k ) + α A d ( k ) ) T d ( k