4.4 高斯消元法的矩阵表示

4.4 高斯消元法的矩阵表示

高斯消元法的原子操作为： 方程 $j$ 乘以 $-a_{i,j}/a_{jj},i>j$ ，加到方程 $i$ ，使 $a_{i,j}$ 为 $0$ ，令 $l_{ij}=a_{i,j}/a_{jj}$ ，称该操作为消元操作，$l_{ij}$ 为乘子。矩阵 $A$ 的任意列向量 ${\mathbf{a}}_{\mathbf{p}}=(a_{1p},a_{2p},\cdots ,a_{ip},\cdots ,a_{np})$ 经过该操作后，变换为 ${\mathbf{a}}_{\mathbf{p}}^{\prime }=(a_{1p},a_{2p},\cdots ,a_{ip}-l_{ij}{a}_{jp},\cdots ,a_{np})$ ，只有第 $i$ 分量加了个数，其它分量不变。消元操作把一个向量变换为另一个向量，是线性可逆变换，能用可逆矩阵表示，矩阵为
$$E_{ij}=\left[\begin{array}{cccccc}1& 0& \cdots & 0& \cdots & 0\cdots 0\\ 0& 1& \cdots & 0& \cdots & 0\cdots 0\\ ⋮& & & & & \\ 0& \cdots & -l_{ij}& \cdots 1\cdots & 0\cdots & 0\cdots 0\\ ⋮& & & & & \\ 0& 0& \cdots & 0& \cdots & 1\cdots 0\\ 0& 0& \cdots & 0& \cdots & 0\cdots 1\end{array}\right]$$

定义 消元矩阵 矩阵 $E_{ij}$ 是单位矩阵 $E$ 的 $(i,j),i>j$ 元素为 $-l_{ij}$ ，称为消元矩阵， $E_{ij}{\mathbf{a}}_{\mathbf{p}}={\mathbf{a}}_{\mathbf{p}}^{\prime }$ ，是单位下三角阵。

第一阶段用矩阵乘法表示为 $E_{n1}\cdots E_{31}{E}_{21}A$ 。

第二阶段用矩阵乘法表示为 $(E_{n2}\cdots E_{42}{E}_{32})(E_{n1}\cdots E_{31}{E}_{21})A$ 。

最终矩阵 $A$ 经过一系列矩阵乘法变换为上三角阵， $(E_{n,n-1})\cdots (E_{n2}\cdots E_{42}{E}_{32})(E_{n1}\cdots E_{31}{E}_{21})A=U$ 。因为矩阵 $E_{ij}$ 可逆，故乘以对应逆矩阵得 $A=(E_{21}^{-1}{E}_{31}^{-1}\cdots E_{n1}^{-1})(E_{32}^{-1}{E}_{42}^{-1}\cdots E_{n2}^{-1})\cdots (E_{n,n-1}^{-1})U=LU$ 。矩阵 $E_{ij}$ 的逆矩阵 $E_{ij}^{-1}$ 是单位矩阵 $E$ 的 $(i,j),i>j$ 元素为 $l_{ij}$ ，经过计算可得矩阵 $L$ 是单位矩阵 $E$ 的任意$(i,j),i>j$ 元素为 $l_{ij}$ ，对角线元素全为 $1$ ，$(i,j),i<j$ 元素为 $0$ ，是单位下三角阵，且对应位置保存了对应乘子 $l_{ij},i>j$ 。矩阵 $A$ 可逆，则上三角阵 $U$ 的对角线元素均不为 $0$ ，这两个条件是等价的。

定义 主元 上三角阵 $U$ 的对角线元素称为矩阵 $A$ 的主元。

重要性质 矩阵 $A$ 的主元均不为 $0$ 时，矩阵 $A$ 可逆。

例如上面矩阵 $A=\left[\begin{array}{ccc}2& 4& -2\\ 4& 9& -3\\ -2& -3& 7\end{array}\right]$ 的主元为 $2,1,4$ ； $LU$ 分解为
$$A=\left[\begin{array}{ccc}1& 0& 0\\ 2& 1& 0\\ -1& 1& 1\end{array}\right]\left[\begin{array}{ccc}2& 4& -2\\ 0& 1& 1\\ 0& 0& 4\end{array}\right]$$

$LU$ 分解，不是很对称，因为 $L$ 是单位下三角阵， $U$ 对角线是主元，不是 $1$ 。我们可以继续对 $U$ 进行分解，把主元提取出来，使 $U$ 成为单位上三角阵。

$$U=\left[\begin{array}{cccc}{d}_1& 0& \cdots & 0\\ 0& d_2& \cdots & 0\\ ⋮& ⋮& & ⋮\\ 0& 0& \cdots & d_n\end{array}\right]\left[\begin{array}{cccc}1& u_{12}/d_1& \cdots & u_{1n}/d_1\\ 0& 1& \cdots & u_{2n}/d_2\\ ⋮& ⋮& & ⋮\\ 0& 0& \cdots & 1\end{array}\right]$$

重要性质 矩阵 $LDU$ 分解 矩阵 $A$ 分解为单位下三角矩阵、对角阵和单位上三角矩阵的乘积， $A=LDU$ ，$D$ 对角线元素为矩阵主元。

例如上面矩阵的 $LDU$ 分解为
$$A=\left[\begin{array}{ccc}2& 4& -2\\ 4& 9& -3\\ -2& -3& 7\end{array}\right]=\left[\begin{array}{ccc}1& 0& 0\\ 2& 1& 0\\ -1& 1& 1\end{array}\right]\left[\begin{array}{ccc}2& 0& 0\\ 0& 1& 0\\ 0& 0& 4\end{array}\right]\left[\begin{array}{ccc}1& 2& -1\\ 0& 1& 1\\ 0& 0& 1\end{array}\right]$$