[矩阵的三角分解系列二] LDU基本定理

矩阵的三角分解是求解线性方程组常用的方法，包括LU分解，LDU分解，杜利特(Doolittle)分解，克劳特(Crout)分解，LLT(乔累斯基Cholesky)分解，LDLT(不带平方根乔累斯基)分解等，以及为了满足分解条件又加入行列变换的LPU分解，PLU分解，LUP分解，LDPU分解等。这里矩阵的三角分解系列教程主要是针对在学习三角分解时候的涉及到的一些细节，包括很多方法的来源和证明等，以及其中用到的一些矩阵操作的基础知识，主要包括：

• [矩阵的三角分解系列一] 高斯消元法
• [矩阵的三角分解系列二] LDU基本定理
• [矩阵的三角分解系列三] 杜利特/克劳特分解公式
• [矩阵的三角分解系列四] 乔累斯基(Cholesky)分解公式
• [矩阵的三角分解系列五] 三角分解中的行列变换
• [矩阵的三角分解系列六] Eigen中的三角分解

这个系列后面文章会用到前面文章的理论和技术，所以建议按照顺序查看。

简介

矩阵的三角分解依赖的具体方法是之前讲到的高斯消元过程，所以看本文前建议先把高斯消元过程先看完。
按照高斯消元过程文章中假设矩阵$\mathbf{A}$的前$n-1$个顺序主子式都不为零，那么矩阵$\mathbf{A}$高斯消元过程能够进行到底。根据高斯消元过程令
$$\mathbf{U}={\mathbf{A}}^{(\mathbf{n})}={\mathbf{L}}^{(\mathbf{n}-1)}\cdots {\mathbf{L}}^{(2)}{\mathbf{L}}^{(1)}\mathbf{A}.\text{\hspace{1em}(1)}$$
又有$det{\mathbf{L}}^{(\mathbf{k})}=1\ne 0(k=1,2,\cdots ,n-1)$，所以$n-1$个消元矩阵${\mathbf{L}}^{(\mathbf{k})}$是可逆的，于是有
$$\mathbf{A}=({\mathbf{L}}^{(1)}{)}^{-1}({\mathbf{L}}^{(2)}{)}^{-1}\cdots ({\mathbf{L}}^{(\mathbf{n}-1)}{)}^{-1}\mathbf{U}$$
根据逆矩阵的定义知
$${\mathbf{L}}^{(\mathbf{k})}=\left[\begin{array}{cccccc}1& & & & & \\ & \ddots & & & & \\ & & 1& & & \\ & & l_{k+1,k}& 1& & \\ & & ⋮& & \ddots & \\ & & l_{nk}& & & 1\end{array}\right],k=1,2,\cdots ,n-1.$$
相当于负号去掉。
而且都是下三角矩阵，连乘仍是下三角矩阵，则
$$\mathbf{L}=({\mathbf{L}}^{(1)}{)}^{-1}({\mathbf{L}}^{(2)}{)}^{-1}\cdots ({\mathbf{L}}^{(\mathbf{n}-1)}{)}^{-1}=\left[\begin{array}{cccccc}1& & & & & \\ l_{21}& 1& & & & \\ l_{31}& l_{32}& 1& & & \\ l_{41}& l_{42}& l_{43}& \ddots & & \\ ⋮& ⋮& ⋮& \ddots & 1& \\ l_{n1}& l_{n2}& l_{n3}& \cdots & l_{n,n-1}& 1\end{array}\right].\text{\hspace{1em}(2)}$$
该矩阵是对角线都是1的下三角矩阵，称为单位下三角矩阵，则可得
$$\mathbf{A}=\mathbf{L}\mathbf{U}.\text{\hspace{1em}(3)}$$
这样就把矩阵$\mathbf{A}$分解为一个单位下三角矩阵$\mathbf{L}$与一个上三角矩阵$\mathbf{U}$的乘积。
一般有如下的定义：
如果方阵$\mathbf{A}$可分解成一个下三角矩阵$\mathbf{L}$和一个上三角矩阵$\mathbf{U}$的乘积，则称$\mathbf{A}$可作三角分解或$\mathbf{L}\mathbf{U}$分解。如果$\mathbf{L}$是单位下三角矩阵，$\mathbf{U}$为上三角矩阵，此时的三角分解称为杜利特(Doolittle)分解；如果$\mathbf{L}$是下三角矩阵，$\mathbf{U}$为单位上三角矩阵，此时的三角分解称为克劳特(Crout)分解。

三角分解的存在和唯一性？

根据上面的介绍可知一个方阵的三角分解或者$\mathbf{L}\mathbf{U}$分解肯定不是唯一的，因为上面提到的杜利特分解和克劳特分解本身就是两种特殊的三角分解方式。其实方阵的三角分解的方式有无穷多个，因为假设$\mathbf{D}$是行列式不为零的任意对角矩阵，那么
$$\mathbf{A}=\mathbf{L}\mathbf{U}=\mathbf{L}\mathbf{D}{\mathbf{D}}^{-1}\mathbf{U}=(\mathbf{L}\mathbf{D})({\mathbf{D}}^{-1}\mathbf{U})=\tilde{\mathbf{L}}\tilde{\mathbf{U}}$$
其中$\tilde{L},\tilde{U}$也分别是下三角矩阵和上三角矩阵，然后$\mathbf{A}=\tilde{L}\tilde{U}$也是 $\mathbf{A}$ 的一个三角分解。又因为$\mathbf{D}$的任意性，所以三角分解不惟一。
但是可以判断满足什么条件一个方阵存在三角分解？什么形式的三角分解才是惟一的?

LDU基本定理

定理内容为$\mathbf{A}$为$n$阶方阵，则$\mathbf{A}$可以惟一地分解为
$$\mathbf{A}=\mathbf{L}\mathbf{D}\mathbf{U}\text{\hspace{1em}(4)}$$
的充分必要条件是$\mathbf{A}$的前$n-1$个顺序主子式 ${\Delta }_k\ne 0(k=1,2,\cdots ,n-1)$(也就是在高斯消元过程文中说的高斯消元过程能完整进行下去的条件)。
其中$\mathbf{L},\mathbf{U}$分别是单位下下三角矩阵和单位上三角矩阵，$\mathbf{D}$是对角矩阵，形式如下
$$\begin{gathered} D=\mathrm{diag}(d_1,d_2,\cdots ,d_n) \\ {d}_k=\frac{{\Delta }_k}{{\Delta }_{k-1}}=a_{kk}^{(k)},k=1,2,\cdots ,n \end{gathered}$$
下面会分别证明这个条件的充分性和必要性。

充分性证明

高斯消元过程文中定理2可知如果$\mathbf{A}$的前$n-1$个顺序主子式${\Delta }_k\ne 0(k=1,2,\cdots ,n-1)$，高斯消元过程得以完成，把矩阵$\mathbf{A}$分解成一个单位下三角矩阵和上三角矩阵乘积，即实现了一个杜利特分解，$\mathbf{A}=\mathbf{L}\tilde{\mathbf{U}}$，其中$\mathbf{L}$为单位下三角矩阵，$\tilde{\mathbf{U}}$为上三角矩阵。
$$\tilde{\mathbf{U}}=\left[\begin{array}{cccc}{u}_{11}& u_{12}& \cdots & u_{1n}\\ & u_{22}& \cdots & u_{2n}\\ & & \ddots & ⋮\\ & & & u_{nn}\end{array}\right]=\left[\begin{array}{cccc}{a}_{11}^{(1)}& a_{12}^{(1)}& \cdots & a_{1n}^{(1)}\\ & a_{22}^{(2)}& \cdots & a_{2n}^{(2)}\\ & & \ddots & ⋮\\ & & & a_{nn}^{(n)}\end{array}\right]={\mathbf{A}}^{(\mathbf{n})},$$
同时$u_{ii}\equiv a_{ii}^{(i)}\ne 0(i=1,2,\cdots ,n-1)$。

存在性证明

分两种情况讨论：

1. 当$\mathbf{A}$非奇异，那么${\Delta }_n=a_{11}^{(1)}{a}_{22}^{(2)}\cdots a_{nn}^{(n)}=|A|\ne 0$，所以$a_{nn}^{(n)}=u_{nn}\ne 0$。然后令$\mathbf{D}=\mathrm{diag}(a_{11}^{(1)},a_{22}^{(2)},\cdots ,a_{nn}^{(n)})$，则
   $$D^{-1}=\mathrm{diag}(\frac{1}{a_{11}^{(1)}},\frac{1}{a_{22}^{(2)}},\cdots ,\frac{1}{a_{nn}^{(n)}}),$$
   所以
   $$\mathbf{A}=\mathbf{L}\tilde{\mathbf{U}}=\mathbf{L}\mathbf{D}\left({\mathbf{D}}^{-1}\tilde{\mathbf{U}}\right)=\mathbf{L}\mathbf{D}\mathbf{U}\text{\hspace{1em}(5)}$$
   是$\mathbf{A}$的一个$\mathbf{L}\mathbf{D}\mathbf{U}$分解。
2. 当$\mathbf{A}$奇异， 那么$a_{nn}^{(n)}\equiv u_{nn}=0$，令$\mathbf{D}=\mathrm{diag}(a_{11}^{(1)},\cdots ,a_{n-1,n-1}^{(n-1)},0)$，${\mathbf{D}}_{\mathbf{n}-1}=\mathrm{diag}(a_{11}^{(1)},\cdots ,a_{n-1,n-1}^{(n-1)})$，$\mathbf{\alpha }={\left(u_{1n},\cdots ,u_{n-1,n}\right)}^{\mathrm{T}}$，则
   $$\tilde{\mathbf{U}}\equiv \left[\begin{array}{cc}{\tilde{\mathbf{U}}}_{n-1}& \mathbf{\alpha }\\ 0^{\mathrm{T}}& 0\end{array}\right]=\left[\begin{array}{cc}{\mathbf{D}}_{n-1}& 0\\ 0^{\mathrm{T}}& 0\end{array}\right]\left[\begin{array}{cc}{\mathbf{D}}_{n-1}^{-1}{\tilde{\mathbf{U}}}_{n-1}& {\mathbf{D}}_{n-1}^{-1}\mathbf{\alpha }\\ 0^{\mathrm{T}}& 1\end{array}\right]=\mathbf{D}\mathbf{U}$$
   所以不论在何种情况下，只要${\Delta }_k\ne 0(k=1,2,\cdots ,n-1)$，总是存在一个$\mathbf{L}\mathbf{D}\mathbf{U}$分解，且$d_k=a_{kk}^{(k)}=\frac{{\Delta }_k}{{\Delta }_{k-1}}(k=1,2,\cdots ,n),{\Delta }_0=1$。

唯一性证明

也分两种情况讨论：

1. 当$\mathbf{A}$非奇异时，$|\mathbf{A}|=|\mathbf{L}||\mathbf{D}||\mathbf{U}|\ne 0$，所以$\mathbf{L},\mathbf{D},\mathbf{U}$都是非奇异。如果还矩阵$\mathbf{A}$还存在另一个$\mathbf{L},\mathbf{D},\mathbf{U}$分解$\mathbf{A}={\mathbf{L}}_1{\mathbf{D}}_1{\mathbf{U}}_1$，这里${\mathbf{L}}_1,{\mathbf{D}}_1,{\mathbf{U}}_1$也非奇异，于是有
   $$\mathbf{L}\mathbf{D}\mathbf{U}={\mathbf{L}}_1{\mathbf{D}}_1{\mathbf{U}}_1\text{\hspace{1em}(6)}$$
   上式两端左乘以${\mathbf{L}}_1^{-1}$以及右乘以${\mathbf{U}}^{-1}$和${\mathbf{D}}^{-1}$，得
   $${\mathbf{L}}_1^{-1}\mathbf{L}={\mathbf{D}}_1{\mathbf{U}}_1{\mathbf{U}}^{-1}{\mathbf{D}}^{-1}$$
   但上式左端是单位下三角阵，右端是单位上三角阵，所以都应该是单位阵。因此
   $${\mathbf{L}}_1^{-1}\mathbf{L}=\mathbf{I},{\mathbf{D}}_1{\mathbf{U}}_1{\mathbf{U}}^{-1}{\mathbf{D}}^{-1}=\mathbf{I}$$
   即
   $${\mathbf{L}}_1=\mathbf{L},{\mathbf{U}}_1{\mathbf{U}}^{-1}={\mathbf{D}}_1^{-1}\mathbf{D}$$
   由后一个等式类似地可得
   $${\mathbf{U}}_1{\mathbf{U}}^1=\mathbf{I},{\mathbf{D}}_1^{-1}\mathbf{D}=\mathbf{I}$$
   即有
   $${\mathbf{U}}_1=\mathbf{U},{\mathbf{D}}_1=\mathbf{D}$$
2. 当$A$奇异，则公式$(6)$可写成分块形式
   $$\left[\begin{array}{cc}{\tilde{\mathbf{L}}}_1& 0\\ {\mathbf{\beta }}_1^{\mathrm{T}}& 1\end{array}\right]\left[\begin{array}{cc}{\tilde{\mathbf{D}}}_1& 0\\ 0^{\mathrm{T}}& 0\end{array}\right]\left[\begin{array}{cc}{\tilde{\mathbf{U}}}_1& {\mathbf{\alpha }}_1\\ 0^{\mathrm{T}}& 1\end{array}\right]=\left[\begin{array}{cc}\tilde{\mathbf{L}}& 0\\ {\mathbf{\beta }}^{\mathrm{T}}& 1\end{array}\right]\left[\begin{array}{cc}\tilde{\mathbf{D}}& 0\\ 0^{\mathrm{T}}& 0\end{array}\right]\left[\begin{array}{cc}\tilde{\mathbf{U}}& \mathbf{\alpha }\\ 0^{\mathrm{T}}& 1\end{array}\right],$$
   其中$\tilde{\mathbf{L}},{\tilde{\mathbf{L}}}_1$是$n-1$阶单位下三角阵，$\tilde{\mathbf{U}},{\tilde{\mathbf{U}}}_1$是$n-1$阶上三角阵，$\tilde{\mathbf{D}},{\tilde{\mathbf{D}}}_1$是$n-1$阶对角阵，$\mathbf{\alpha },{\mathbf{\alpha }}_1,\mathbf{\beta },{\mathbf{\beta }}_1$是$n-1$维列向量。
   由此得出
   $$\left[\begin{array}{cc}{\tilde{\mathbf{L}}}_1{\tilde{\mathbf{D}}}_1{\tilde{\mathbf{U}}}_1& {\tilde{\mathbf{L}}}_1{\tilde{\mathbf{D}}}_1{\mathbf{\alpha }}_1\\ {\mathbf{\beta }}_1^{\mathrm{T}}{\tilde{\mathbf{D}}}_1{\tilde{\mathbf{U}}}_1& {\mathbf{\beta }}_1^{\mathrm{T}}{\tilde{\mathbf{D}}}_1{\mathbf{\alpha }}_1\end{array}\right]=\left[\begin{array}{cc}\tilde{\mathbf{L}}\tilde{\mathbf{D}}\tilde{\mathbf{U}}& \tilde{\mathbf{L}}\tilde{\mathbf{D}}\mathbf{\alpha }\\ {\mathbf{\beta }}^{\mathrm{T}}\tilde{\mathbf{D}}\tilde{\mathbf{U}}& {\mathbf{\beta }}^{\mathrm{T}}\tilde{\mathbf{D}}\mathbf{\alpha }\end{array}\right],$$
   其中 ${\tilde{\mathbf{L}}}_1,{\tilde{\mathbf{D}}}_1,{\tilde{\mathbf{U}}}_1$和 $\tilde{\mathbf{L}},\tilde{\mathbf{D}},\overline{\mathbf{U}}$皆非奇昇，类似于前面的推理，可得
   $$\begin{array}{ccc}{\tilde{\mathbf{L}}}_1=\tilde{\mathbf{L}},& {\tilde{\mathbf{D}}}_1=\tilde{\mathbf{D}},& {\tilde{\mathbf{U}}}_1=\tilde{\mathbf{U}}\\ {\mathbf{\alpha }}_1=\mathbf{\alpha },& {\mathbf{\beta }}_1^{\mathrm{T}}={\mathbf{\beta }}^{\mathrm{T}}& \end{array}$$

充分性证明完毕！！！！

必要性证明

假定$\mathbf{A}$有一个惟一的$\mathbf{L}\mathbf{D}\mathbf{U}$分解，写成分块的形式便是
$$\left[\begin{array}{cc}{\mathbf{A}}_{n-1}& \mathbf{x}\\ {\mathbf{y}}^{\mathrm{T}}& a_{nn}\end{array}\right]=\left[\begin{array}{cc}{\mathbf{L}}_{n-1}& 0\\ {\mathbf{\beta }}^{\mathrm{T}}& 1\end{array}\right]\left[\begin{array}{cc}{\mathbf{D}}_{n-1}& 0\\ 0& d_n\end{array}\right]\left[\begin{array}{cc}{\mathbf{U}}_{n-1}& \mathbf{\alpha }\\ 0^{\mathrm{T}}& 1\end{array}\right],\text{\hspace{1em}(7)}$$
其中${\mathbf{L}}_{\mathbf{n}-1},{\mathbf{D}}_{\mathbf{n}-1},{\mathbf{U}}_{\mathbf{n}-1},{\mathbf{A}}_{\mathbf{n}-1}$分别是$\mathbf{L},\mathbf{D},\mathbf{U},\mathbf{A}$的$n-1$ 阶顺序主子矩阵，$\mathbf{x},\mathbf{y},\mathbf{\alpha },\mathbf{\beta }$为$n-1$。
所以可知它们关系为
$$\begin{array}{rl}{\mathbf{A}}_{n-1}& ={\mathbf{L}}_{n-1}{\mathbf{D}}_{n-1}{\mathbf{U}}_{n-1}\\ {\mathbf{y}}^{\mathrm{T}}& ={\mathbf{\beta }}^{\mathrm{T}}{\mathbf{D}}_{n-1}{\mathbf{U}}_{n-1}\\ \mathbf{x}& ={\mathbf{L}}_{n-1}{\mathbf{D}}_{n-1}\mathbf{\alpha }\\ a_{nn}& ={\mathbf{\beta }}^{\mathrm{T}}{\mathbf{D}}_{n-1}\mathbf{\alpha }+d_n\end{array}\text{\hspace{1em}(8)}$$
开始证明：
假设${\Delta }_{n-1}=\left|{\mathbf{A}}_{n-1}\right|=0$， 则
$$\left|{\mathbf{A}}_{n-1}\right|=\left|{\mathbf{L}}_{n-1}\right|\left|{\mathbf{D}}_{n-1}\right|\left|{\mathbf{U}}_{n-1}\right|=\left|{\mathbf{D}}_{n-1}\right|=0$$
于是有$\left|{\mathbf{L}}_{n-1}{\mathbf{D}}_{n-1}\right|=\left|{\mathbf{D}}_{n-1}\right|=0$，即${\mathbf{L}}_{n-1}{\mathbf{D}}_{n-1}$奇异，那么对于非齐次线性方程组${\mathbf{L}}_{n-1}{\mathbf{D}}_{n-1}\mathbf{\alpha }=\mathbf{x}$存在无穷多非零解。不妨设有${\mathbf{\alpha }}^{\prime }$， 使${\mathbf{L}}_{n-1}{\mathbf{D}}_{n-1}{\mathbf{\alpha }}^{\prime }=\mathbf{x}$，而${\mathbf{\alpha }}^{\prime }\ne \mathbf{\alpha }$。同理，因${\mathbf{D}}_{n-1}{\mathbf{U}}_{n-1}$奇异，故${\left({\mathbf{D}}_{n-1}{\mathbf{U}}_{n-1}\right)}^{\mathrm{T}}={\mathbf{D}}_{n-1}^{\mathrm{T}}{\mathbf{U}}_{n-1}^{\mathrm{T}}$也奇异，就有 ${\mathbf{\beta }}^{\prime }\ne \mathbf{\beta }$，使${\mathbf{U}}_{n-1}^{\mathrm{T}}{\mathbf{D}}_{n-1}^{\mathrm{T}}\mathbf{\beta }=\mathbf{y}$和${\mathbf{U}}_{n-1}^{\mathrm{T}}{\mathbf{D}}_{n-1}^{\mathrm{T}}{\mathbf{\beta }}^{\prime }=\mathbf{y}$。取$d_n^{\prime }=a_{nn}-{\mathbf{\beta }}^{\prime \mathrm{T}}{\mathbf{D}}_{n-1}{\mathbf{\alpha }}^{\prime }$，则有
$$\left[\begin{array}{cc}{\mathbf{A}}_{n-1}& \mathbf{x}\\ {\mathbf{y}}^{\mathrm{T}}& a_{nn}\end{array}\right]=\left[\begin{array}{cc}{\mathbf{L}}_{n-1}& 0\\ {\mathbf{\beta }}^{\prime \mathrm{T}}& 1\end{array}\right]\left[\begin{array}{cc}{\mathbf{D}}_{n-1}& 0\\ 0& d_n^{\prime }\end{array}\right]\left[\begin{array}{cc}{\mathbf{U}}_{n-1}& {\mathbf{\alpha }}^{\prime }\\ 0^{\mathrm{T}}& 1\end{array}\right].$$
这与$\mathbf{A}$的$\mathbf{L}\mathbf{D}\mathbf{U}$分解的惟一性矛盾，因此${\Delta }_{n-1}\ne 0$。
同理可以把$n-1$阶顺序主矩阵${\mathbf{A}}_{n-1}$也按照公式$(7)$写成分块形式，同样有${\mathbf{A}}_{n-2}={\mathbf{L}}_{n-2}{\mathbf{D}}_{n-2}{\mathbf{U}}_{n-2}$，由于$\left|{\mathbf{D}}_{n-1}\right|\ne 0$，所以$\left|{\mathbf{D}}_{n-2}\right|\ne 0$，然后
$$\left|{\mathbf{A}}_{n-2}\right|=\left|{\mathbf{L}}_{n-2}\right|\left|{\mathbf{D}}_{n-2}\right|\left|{\mathbf{U}}_{n-2}\right|=\left|{\mathbf{D}}_{n-2}\right|\ne 0$$
从而${\Delta }_{n-2}\ne 0$，以此类推可得${\Delta }_k\ne 0(k=1,2,\cdots ,n-1)$。

必要性证明完毕！！！！

推论

在$\mathbf{A}$的三角分解中，只要有一个三角矩阵是单位三角矩阵，则分解总是唯一的，上面说到的克劳特/杜利特分解是唯一的，而且可以进行杜利特/克劳特唯一分解的充分必要条件是$\mathbf{A}$的前$n-1$阶顺序主子式不为零。如果$\mathbf{A}$是非奇异矩阵，那么充要条件则是$\mathbf{A}$矩阵的各阶顺序主子式都不为零。如果$\mathbf{A}$是奇异矩阵，杜利特分解的上三角矩阵$\mathbf{U}$的最后一个对角线元素$u_{nn}=0$，同理克劳特分解的下三角矩阵$\mathbf{L}$的最后一个对角线元素$l_{nn}=0$。
否则，如果$\mathbf{L}$和$\mathbf{U}$都不是单位三角矩阵，那么分解不唯一。

稳定性

前面提到只要$n$阶方阵$\mathbf{A}$的前$n-1$个顺序主子式 ${\Delta }_k\ne 0(k=1,2,\cdots ,n-1)$，就存在$\mathbf{L}\mathbf{U}$分解，同时存在唯一的杜利特/克劳特分解以及$\mathbf{L}\mathbf{D}\mathbf{U}$分解。
上面的条件主要是为了确保在高斯消元中作为被除数的$a_{kk}^{(k)}$不能为零，但是如果$a_{kk}^{(k)}$特别小的话，会导致最终分解矩阵的元素中出现特别大的数，导致分解的不稳定。
这里举个例子来看一下，比如矩阵
$$\mathbf{A}=\left[\begin{array}{cc}ϵ& 1\\ 1& 1\end{array}\right]$$
$\mathbf{L}\mathbf{D}\mathbf{U}$分解为
$$\mathbf{A}=\left[\begin{array}{cc}1& \\ \frac{1}{ϵ}& 1\end{array}\right]\left[\begin{array}{cc}ϵ& \\ & 1-\frac{1}{ϵ}\end{array}\right]\left[\begin{array}{cc}1& \frac{1}{ϵ}\\ & 1\end{array}\right]=\mathbf{L}\mathbf{D}\mathbf{U}$$
杜利特分解
$$\mathbf{A}=\left[\begin{array}{cc}1& \\ \frac{1}{ϵ}& 1\end{array}\right]\left[\begin{array}{cc}ϵ& 1\\ & 1-\frac{1}{ϵ}\end{array}\right]=\mathbf{L}\tilde{\mathbf{U}}$$
克劳特分解
$$\mathbf{A}=\left[\begin{array}{cc}ϵ& \\ 1& 1-\frac{1}{ϵ}\end{array}\right]\left[\begin{array}{cc}1& \frac{1}{ϵ}\\ & 1\end{array}\right]=\tilde{\mathbf{L}}\mathbf{U}$$
上面三角分解中元素中出现$\frac{1}{ϵ}$，是非常大的数，所以说$\mathbf{L}\mathbf{U}$是不稳定的。
对于上面的例子来说，要解决大数不稳定问题比较简单，就是把矩阵$\mathbf{A}$的第一行和第二行交换，然后在进行三角分解，基本的思路就是把小数下移大数上移，消除高斯消元过程中会出现的大数除以小数导致的不稳定问题。在这里就不展开讲了，上面的例子可以自己尝试行交换后的分解结果，发现不会出现$\frac{1}{ϵ}$大数问题。
在后面的[矩阵的三角分解系列五] 三角分解中的行列变换里面会在详细的讲解这个方法。

例子

求矩阵
$$\mathbf{A}=\left[\begin{array}{ccc}2& -1& 3\\ 1& 2& 1\\ 2& 4& 2\end{array}\right]$$
的$\mathbf{L}\mathbf{D}\mathbf{U}$分解。
解：
矩阵$\mathbf{A}$的前$n-1$阶顺序主子式为
$$\begin{gathered} {\Delta }_1=2 \\ {\Delta }_2=5 \end{gathered}$$
所以矩阵$\mathbf{A}$有惟一的$\mathbf{L}\mathbf{D}\mathbf{U}$分解。
下面我们仿照高斯消元过程的计算步骤来计算矩阵$\mathbf{A}$的$\mathbf{L}\mathbf{D}\mathbf{U}$分解。
按照高斯消元过程中介绍的过程得到矩阵$\mathbf{A}$消元阵
$${\mathbf{L}}^{(1)}=\left[\begin{array}{ccc}1& 0& 0\\ -\frac{1}{2}& 1& 0\\ -1& 0& 1\end{array}\right],({\mathbf{L}}^{(1)}{)}^{-1}=\left[\begin{array}{ccc}1& 0& 0\\ \frac{1}{2}& 1& 0\\ 1& 0& 1\end{array}\right].$$
所以得
$${\mathbf{A}}^{(2)}={\mathbf{L}}^{(1)}\mathbf{A}=\left[\begin{array}{ccc}2& -1& 3\\ 0& \frac{5}{2}& -\frac{1}{2}\\ 0& 5& -1\end{array}\right].$$
再由${\mathbf{A}}^{(2)}$计算消元阵
$${\mathbf{L}}^{(2)}=\left[\begin{array}{ccc}1& 0& 0\\ 0& 1& 0\\ 0& -2& 1\end{array}\right],({\mathbf{L}}^{(2)}{)}^{-1}=\left[\begin{array}{ccc}1& 0& 0\\ 0& 1& 0\\ 0& 2& 1\end{array}\right].$$
得
$${\mathbf{A}}^{(3)}={\mathbf{L}}^{(2)}{\mathbf{A}}^{(2)}=\left[\begin{array}{ccc}2& -1& 3\\ 0& \frac{5}{2}& -\frac{1}{2}\\ 0& 0& 0\end{array}\right]=\tilde{\mathbf{U}}=\mathbf{D}\mathbf{U}$$
又
$$\mathbf{D}=\left[\begin{array}{ccc}{a}_{11}^{(1)}& 0& 0\\ 0& a_{22}^{(2)}& 0\\ 0& 0& a_{33}^{(3)}\end{array}\right]=\left[\begin{array}{ccc}2& 0& 0\\ 0& \frac{5}{2}& 0\\ 0& 0& 0\end{array}\right],(\mathbf{D}{)}^{-1}=\left[\begin{array}{ccc}\frac{1}{2}& 0& 0\\ 0& \frac{2}{5}& 0\\ 0& 0& 0\end{array}\right].$$
所以
$$U=(\mathbf{D}{)}^{-1}\tilde{\mathbf{U}}=\left[\begin{array}{ccc}1& -\frac{1}{2}& \frac{3}{2}\\ 0& 1& -\frac{1}{5}\\ 0& 0& 1\end{array}\right].$$
同时
$$\mathbf{L}=({\mathbf{L}}^{(1)}{)}^{-1}({\mathbf{L}}^{(2)}{)}^{-1}=\left[\begin{array}{ccc}1& 0& 0\\ \frac{1}{2}& 1& 0\\ 1& 2& 1\end{array}\right].$$
即
$$\mathbf{D}\mathbf{U}=\tilde{\mathbf{U}}={\mathbf{A}}^{(3)}={\mathbf{L}}^{(2)}{\mathbf{L}}^{(1)}\mathbf{A}={\mathbf{L}}^{-1}\mathbf{A}.$$
故
$$\mathbf{A}=\left[\begin{array}{ccc}1& 0& 0\\ \frac{1}{2}& 1& 0\\ 1& 2& 1\end{array}\right]\left[\begin{array}{ccc}2& 0& 0\\ 0& \frac{5}{2}& 0\\ 0& 0& 0\end{array}\right]\left[\begin{array}{ccc}1& -\frac{1}{2}& \frac{3}{2}\\ 0& 1& -\frac{1}{5}\\ 0& 0& 1\end{array}\right]=\mathbf{L}\mathbf{D}\mathbf{U}$$

引用

【1】 矩阵论(第二版)