数值计算方法第三章—线性方程组的数值解法知识点总结

线性方程组的数值解法

本文参考书为马东升著《数值计算方法》

高斯消去法

• 顺序高斯消去法

  通过初等变换消去方程组系数矩阵主对角线以下的元素，而使方程组化为等价的上三角形方程组

  ---

• 列主元高斯消去法

  在每一次消元之前，将绝对值大的元素交换到主对角线的位置上

  ---

• 高斯—若尔当消去法

  每次消元时利用主元将所在列其余元素全部消为0

矩阵三角分解法

• 杜利特尔分解

  $$u_{ri}=a_{ri}-\sum _{k=1}^{r-1}{l}_{rk}{u}_{ki},i=r,r+1,\cdots ,n$$

  $$l_{ir}=(a_{ir}-\sum _{k=1}^{r-1}{l}_{ik}{u}_{kr})/u_{rr},i=r+1,r+2,\cdots ,n$$

  然后求解两个三角方程组
  $$Ly=b,Ux=y$$

  例：
  $$\left(\begin{array}{cccc}2& 2& 3& 4\\ 2& 4& 9& 16\\ 4& 8& 24& 64\\ 6& 16& 51& 100\end{array}\right)\left(\begin{array}{c}{x}_1\\ x_2\\ x_3\\ x_4\end{array}\right)=\left(\begin{array}{c}1\\ 1\\ 3\\ -29\end{array}\right)$$

  解：
  $$L=\left(\begin{array}{cccc}1& & & \\ 1& 1& & \\ 2& 2& 1& \\ 3& 5& 2& 1\end{array}\right),U=\left(\begin{array}{cccc}2& 2& 3& 4\\ & 2& 6& 12\\ & & 6& 31\\ & & & -34\end{array}\right),y=\left(\begin{array}{c}1\\ 0\\ 1\\ -34\end{array}\right),x=\left(\begin{array}{c}-3\\ 9\\ -5\\ 1\end{array}\right)$$

  ---

• 追赶法

  $$\{\begin{array}{l}{l}_1=b_1\\ u_i=c_i/l_i\\ l_{i+1}=b_{i+1}-a_{i+1}{u}_i\end{array}i=1,2,\cdots ,n-1$$

  追：
  $$\{\begin{array}{l}{y}_1=f_1/l_1\\ y_i=(f_i-a_i{y}_{i-1})/l_i,i=2,3,\cdots ,n\end{array}$$
  赶：
  $$\{\begin{array}{l}{x}_n=y_n\\ x_i=y_i-u_i{x}_{i+1},i=n-1,\cdots ,2,1\end{array}$$

平方根法（不用记）

• 对称正定矩阵

  • A对称正定，则A的对角元素$a_{ii}>0,i=1,2,\cdots ,n$

  • A的顺序主子阵$A_k,k=1,2,\cdots ,n$也是对称正定矩阵，其中
    $$A_k=\left(\begin{array}{cccc}{a}_{11}& a_{12}& \cdots & a_{1k}\\ a_{21}& a_{22}& \cdots & a_{2k}\\ \cdots & \cdots & \cdots & \cdots \\ a_{k1}& a_{k2}& \cdots & a_{kk}\end{array}\right),k=1,2,\cdots ,n$$

  • A的特征值${\lambda }_i>0,i=1,2,\cdots ,n$

  • A的顺序主子式都大于零，即$det{A}_k>0,k=1,2,\cdots ,n$

  • A非奇异，且$A^{-1}$为对称正定矩阵

  例：判断矩阵$A=\left(\begin{array}{ccc}4& -1& 0\\ -1& 4& -1\\ 0& -1& 4\end{array}\right)$的正定性

  解：$A$为对称矩阵，且$\left|A_1\right|=4>0,\left|A_2\right|=15>0,\left|A_3\right|=56>0$,即$A$为对称正定矩阵

  ---

• 对称正定矩阵的乔累斯基分解

  $$\{\begin{array}{l}{l}_{ii}=\sqrt{a_{ii}-\sum _{k=1}^{r-1}{l}_{ik}^2}\\ l_{ji}=(a_{ji}-\sum _{k=1}^{i-1}{l}_{jk}{l}_{ik})/l_{ii},j=i+1,i+1,\cdots ,n\end{array}$$

  例：对矩阵$A=\left(\begin{array}{ccc}1& 1& 2\\ 1& 2& 0\\ 2& 0& 11\end{array}\right)$进行乔累斯基分解

  解：$A$为对称矩阵，且$\left|A_1\right|=1>0,\left|A_2\right|=1>0,\left|A_3\right|>0$

  ​ 即$A$为对称正定矩阵。可进行乔累斯基分解

  ​ 解得$L=\left(\begin{array}{ccc}1& & \\ 1& 1& \\ 2& -2& \sqrt{3}\end{array}\right)$

  ---

• 平方根法

  对对称正定矩阵进行乔累斯基分解后，求解两个三角方程组
  $$Ly=b,L^{T}x=y$$

  ---

• 改进平方根法

  为避免重复计算，作如下变换
  $$A=LD{L}^T=T{L}^T$$
  其中$T=LD$，即引进辅助变量$t_{ij}=l_{ij}\cdot d_j$

  对于$i=1,2,\cdots ,n$
  { t i j = a i j − ∑ k = 1 j − 1 t i k l j k   ,   j = 1 , 2 , ⋯   , i − 1 l i j = t i j / d j   ,   j = 1 , 2 , ⋯   , i − 1 d i =