LU分解 LDL分解 Cholesky分解

「已注销」

已于 2022-05-10 16:16:21 修改

阅读量775

点赞数

文章标签：矩阵

于 2022-04-21 11:50:38 首次发布

本文链接：https://blog.csdn.net/int_main_Roland/article/details/124317608

版权

本文详细介绍了矩阵的LU、LDL和Cholesky分解，包括高斯消元变换及其性质，如矩阵的行列式、下三角矩阵的乘法和逆矩阵，以及分解的唯一性和存在性。特别地，针对实正定对称矩阵，证明了Cholesky分解的存在性和唯一性。

摘要由CSDN通过智能技术生成

a 上/下三角矩阵及其性质

略

b 高斯消元变换

$M_k v = \begin{bmatrix} 1 & & & & & \\ & \ddots & & & & \\ & & 1 & & & \\ & & -\frac{v_{k+1}}{v_k} & 1 & & \\ & & \vdots & & \ddots & \\ & & -\frac{v_n}{v_k} & & & 1 \\ \end{bmatrix} \begin{bmatrix} v_1 \\ \vdots \\ v_k \\ v_{k+1} \\ \vdots \\ v_n \\ \end{bmatrix} = \begin{bmatrix} v_1 \\ \vdots \\ v_k \\ 0 \\ \vdots \\ 0 \\ \end{bmatrix}$

c高斯消元变换算法的结果

1: $A^{(1)}=A$
2: FOR $k = 1, 2, . . ., n - 1$ DO
3: 令 $v=A^{(k)}_{:k}$ (即 $A^{(k)}$ 的A(:,k)(MATLAB写法))，并基于 $v$ 计算高斯变换 $M_k$
4: $A^{(k+1)} ← M_k A^{(k)}$
5: END FOR

$A^{(n)}$ 第k列的后(n-k)个元素一定是0.
$A^{(n)}$ 是上三角矩阵.

注: 高斯变换消元 $A^{(k)}_{kk} \neq 0$ 当且仅当顺序主子式均不为零. (容易证明初等变换不改变顺序主子式之值)
实际计算过程中, 为了保持数值稳定性, 通常会选取A(k+1:n,k+1:n)或者A(k+1:n,k+1)绝对值最大元素(分布称作矩阵主元和列主元), 然后将其通过初等变换将其位置交换到(k+1,k+1). 由于列主元方法计算复杂度较低, 因此实际实现往往采用列主元法. 列主元法也能把 $A^{(k)}_{kk} = 0$ 的元素移动到矩阵的末尾, 从而推导出PLU分解, 可以看作LU分解的推广. PLU分解比LU分解更加繁复, 这里就不深入讨论了,

中文	英文	数学
主子式	principal minor	$D$
顺序主子式	sequential principal minor	$D_k$
余子式	i j minor	$M_{ij}$
代数余子式	i j cofactor	$C_{ij} = (-1)^{i+j} M_{ij}$

d.1 高斯消元变换矩阵的行列式

易见 $M_k$ 是下三角矩阵, 因此 $\det(M_k) = \prod\limits_{i=1}^{n} {\left(M_k\right)}_{ii} = \prod\limits_{i=1}^{n} 1 = 1$ .

d.2 高斯消元变换矩阵的积

引理d.2.1 两个下三角矩阵之积仍是下三角矩阵.

只需证明, $i < j$ 时, $L^1L^2)_{ij}=0$ .
如果 $i < j$ ,
- $(L^1L^2)_{ij} = \sum\limits_{k=1}^{n} L^1_{ik} L^2_{kj} = \sum\limits_{k=1}^{i} L^1_{ik} L^2_{kj} + \sum\limits_{k=i+1}^{n} L^1_{ik} L^2_{kj}$

由于 $L^2$ 是下三角矩阵, 所以 $\sum\limits_{k=1}^{i} L^1_{ik} L^2_{kj} = 0$ .
由于 $L^1$ 是下三角矩阵, 所以 $\sum\limits_{k=i+1}^{i} L^1_{ik} L^2_{kj} = 0$ .
- $(L^1L^2)_{ij} = \sum\limits_{k=1}^{i} L^1_{ik} L^2_{kj} + \sum\limits_{k=i+1}^{n} L^1_{ik} L^2_{kj} = 0+0 = 0$

引理d.2.2 $\det(XY) = \det(X) \det(Y)$

由于 $M_1,\dots,M_{n-1}$ 都是下三角矩阵, 迭用引理d.2.1, $M_{n-1} \cdots M_1$ 是下三角矩阵.

根据 d.1, $\det(M_1)=\dots=\det(M_{n-1})=1$ , 迭用引理d.2.1, $\det(L) = \det(M_{n-1}) \cdots \det(M_1) = 1 \cdots 1 = 1$ .

e LU分解的存在性和唯一性

引理e.1 两个下三角矩阵之积的对角线元素等于两个下三角矩阵的对角线元素之积.

- $(L^1L^2)_{ii} = \sum\limits_{k=1}^{n} L^1_{ik} L^2_{ki} = \sum\limits_{k=1}^{i-1} L^1_{ik} L^2_{ki} + L^1_{ii} L^2_{ii} + \sum\limits_{k=i+1}^{n} L^1_{ik} L^2_{ki}$