《计算方法》笔记之（三）线性代数方程组之 矩阵分解

Gauss 消去法的矩阵意义

注意：这里面讨论的不是列主元高斯消去法，所以算法可能不稳定。

根据《线性代数》我们知道，对于矩阵 A 行初等变换相当于左乘相应初等矩阵，对于矩阵 A 列初等变换相当于右乘相应初等矩阵。 由此可知：

$$A=LU$$

即 A 可以表示成为一个单位下三角阵 L 与一个上三角阵 U 的乘积

这就是矩阵的 LU 分解,也称为三角分解或 Doolittle 分解

矩阵的 LU 分解

那是不是所有的方阵都能够进行 LU 分解呢，如果不是，那又是哪些能够进行 LU 分解呢？

联系前面我们知道 Gauss 消元法顺利进行的条件是各个消元的主元不为 0 （即 $a_{kk}^{(k-1)}̸=0$ ）。我们知道，能够进行 Gauss 消元与能够进行 LU 分解是等价的， Gauss 消元法也可以用来求行列式。

若将矩阵 A 的左上方各阶顺序主子矩阵记为 $A_1,A_2,...,A_n$ 。使用高斯消元法使得第 k 个消元的主元如果为 0 ，那么 $det(A_k)=0$ ，所以有：
若 n 阶方阵的各阶顺序主子行列式不为 0 ，则存在唯一的单位下三角矩阵 L 和上三角矩阵 U ，满足 A=LU

由此定理可以得到 LU 分解的计算公式：

对于 A 中的每一项，有 因此得到 LU 分解的每项的计算公式：

$$\{\begin{array}{l}{\mu }_{1j}={\alpha }_{1j},j=1,2,...,n\\ l_{i1}=\frac{{\alpha }_{i1}}{{\mu }_{11}},i=2,3,...,n\\ {\mu }_{ij}={\alpha }_{ij}-\sum _{k=1}^{i-1}{l}_{ik}{u}_{kj},j=i,i+1,...,n,i=2,3,..,n\\ l_{ki}=\frac{1}{{\mu }_{ii}}({\alpha }_{ki}-\sum _{t=1}^{i-1}{l}_{kt}{\mu }_{ti}),k=i+1,...,n,i=2,3,..,n\end{array}$$
所以要先计算 U 中的第 i 行元素，再计算 L 中的第 i 列元素（因为计算 L 中的第 i 列元素需要知道 $u_{ii}$ ）。总的时间复杂度为 $O(n^3)$ 。

我们在存储时，可以将 LU 存储在一个矩阵中，减小空间消耗：
$$(\begin{array}{ccccc}{a}_{11}^{(0)}& a_{12}^{(0)}& a_{13}^{(0)}& \cdots & \\ l_{21}& a_{22}^{(1)}& a_{23}^{(1)}& \cdots & \\ l_{31}& l_{32}& a_{33}^{(2)}& \cdots & \\ & & & \ddots & \\ l_{n1}& l_{n2}& l_{n3}& \cdots & \end{array}$$