矩阵运算_置换矩阵-CSDN博客

本文链接：https://blog.csdn.net/mylinchi/article/details/79205955

矩阵的基本性质
1.逆： $n\times n$ 矩阵 $A$ 的逆 $A^{-1}$ （如果存在）定义为满足 $AA^{-1}=I_n=A^{-1}A$ 的 $n\times n$ 的矩阵。

若矩阵 $A$ 有逆，则称 $A$ 为可逆矩阵或者非奇异矩阵；否则称 $A$ 为不可逆矩阵或者奇异矩阵。
2.线性相关：若存在不全为0的相关系数 $c_1,c_2,...,c_n$ 使得 $c_1x_1+c_2x_2+...+c_nx_n=0$ ，则称向量 $x_1,x_2,...x_n$ 是线性相关的，否则为线性无关的。
列秩：非零 $m\times n$ 矩阵 $A$ 的列秩是 $A$ 的最大线性无关列集合的大小。
行秩：矩阵 $A$ 的行秩是 $A$ 的最大线性无关行集合的大小。
秩：任意矩阵的行秩等于列秩，简称为秩。
3.逆和秩的关系
一个方阵是满秩的，当且仅当该方阵是非奇异的。

求解线性方程组
1.LUP分解综述
找出三个 $n\times n$ 矩阵 $L、U和P$ ，满足
$P A = L U$ $PA=LU$
其中， $L$ 是一个单位下三角矩阵， $U$ 是一个上三角矩阵， $P$ 是一个置换矩阵（排列矩阵）。

对线性方程组 $Ax=b$ 两边同时乘以 $P$ ,得到等价的方程 $PAx=Pb$ ,代入得 $LUx=Pb$ 。

定义 $y=Ux$ ，则线性方程组最终化为 $Ly=Pb$ 。
通过使用“正向替换”可以求解 $y$ ;在对 $y=Ux$ 使用“反向替代”可以求解 $x$ 。
2.计算一个LU分解
我们采用高斯消元法创建LU分解：
首先从其他方程中减去第一个方程的倍数，以把那些方程中的第一个变量消去。然后，用第三个及以后的方程中减去第二个方程的倍数，以把这些方程的第一个和第二个变量都消去。以此类推，直到系统变成一个上三角矩阵形式。那么最终得到的矩阵就是U，由消去变量所用的行的乘数组成矩阵L。
在计算机中可以采用递归算法实现该策略：
①若n=1，则 $L=I_1,U=A$
②若n>1，把A拆成4部分

A = ⎡ ⎣ ⎢ ⎢ ⎢ ⎢ ⎢ a 11 a 21 ⋮ a n 1 a 12 a 22 ⋮ a n 2 \dots \dots ⋱ \dots a 1 n a 2 n ⋮ a ⎤ ⎦ ⎥ ⎥ ⎥ ⎥ ⎥ = [a 11 v ω T A']

$A= \left[ \begin{matrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & \ddots & \vdots \\ a_{n1} & a_{n2} & \cdots & a_{} \\ \end{matrix} \right] =\left[ \begin{matrix} a_{11} & \omega^T\\ v &A^{'} \end{matrix} \right]$
利用矩阵代数，可以把A分解为：

A = [a 11 v ω T A'] = [1 v / a 11 0 I n - 1] [a 11 0 ω T A' - v ω T / a 11]

$A=\left[ \begin{matrix} a_{11} & \omega^T\\ v &A^{'} \end{matrix} \right] =\left[ \begin{matrix} 1 & 0\\ v/a_{11} &I_{n-1} \end{matrix} \right] \left[ \begin{matrix} a_{11} & \omega^T\\ 0 &A^{'}-v\omega^T/a_{11} \end{matrix} \right]$
我们把

A′−vωT/a11 $A^{'}-v\omega^T/a_{11}$ 称为矩阵A对于

a11 $a_{11}$ 的舒尔补。
③假设我们可以找到舒尔补的一个LU分解，那么

A' - v ω T / a 11 = L' U'

$A^{'}-v\omega^T/a_{11}=L^{'}U^{'}$

A = [1 v / a 11 0 I n - 1] [a 11 0 ω T A' - v ω T / a 11] = [1 v / a 11 0 I n - 1] [a 11 0 ω T L' U'] = [1 v / a 11 0 L'] [a 11 0 ω T U'] = L U

$A =\left[ \begin{matrix} 1 & 0\\ v/a_{11} &I_{n-1} \end{matrix} \right] \left[ \begin{matrix} a_{11} & \omega^T\\ 0 &A^{'}-v\omega^T/a_{11} \end{matrix} \right] =\left[ \begin{matrix} 1 & 0\\ v/a_{11} &I_{n-1} \end{matrix} \right] \left[ \begin{matrix} a_{11} & \omega^T\\ 0 &L^{'}U^{'} \end{matrix} \right] =\left[ \begin{matrix} 1 & 0\\ v/a_{11} &L^{'} \end{matrix} \right] \left[ \begin{matrix} a_{11} & \omega^T\\ 0 &U^{'} \end{matrix} \right]=LU$
因此，可以通过舒尔补的LU分解构造A的LU分解。
通过把”尾递归“过程优化为循环迭代可以得到一个计算LU分解的算法：

LU-DECOMPOSITION(A)
1 n=A.rows
2 let L and U be new $n\times n$ matrix
3 initialize U with 0s below the diagonal
4 initialize L with 1s on the diagonal and 0s above the diagonal
5 for k=1 to n
6 $u_{kk}=a_{kk}$
7 for i=k+1 to n
8 $l_{ik}=a_{ik}/u_{kk}$
9 $u_{ki}=a_{ki}$
10 for i=k+1 to n
11 for j=k+1 to n
12 $a_{ij}=a_{ij}-l_{ik}u_{kj}$
13 return L and U

3.计算一个LUP分解
在LU分解的过程中，如果 $a_{11}=0$ 或者舒尔补的左上角元素为0则会在本次或者下一次计算中出现除0的情况。为了避免在计算LU分解的过程中该情况的出现，我们在计算L和U时先把当前计算的方阵的第一列的元素中绝对值最大的元素放在方阵的左上角，也就是先对方阵进行一次行变换。
假设第1列中绝对值最大的元素为 $a_{k1}$ ，那么我们需要把第1行与第k行互换，这等价用一个置换矩阵Q乘以A的左边。

Q A = [a k 1 v ω T A']

$QA= \left[ \begin{matrix} a_{k1} & \omega^T \\ v & A^{'} \end{matrix} \right]$
现在可以执行与LU分解相同的线性代数运算，且现在能保证不会除0：

Q A = [a k 1 v ω T A'] = [1 v / a k 1 0 I n - 1] [a k 1 0 ω T A' - v ω T / a k 1]

$QA= \left[ \begin{matrix} a_{k1} & \omega^T \\ v & A^{'} \end{matrix} \right] =\left[ \begin{matrix} 1 & 0\\ v/a_{k1} &I_{n-1} \end{matrix} \right] \left[ \begin{matrix} a_{k1} & \omega^T\\ 0 &A^{'}-v\omega^T/a_{k1} \end{matrix} \right]$
假设我们找到了舒尔补的一个LUP分解，即包含单位下三角矩阵

L′ $L^{'}$ ，上三角矩阵

U′ $U^{'}$ 和置换矩阵

P′ $P^{'}$ ，满足：

P' (A' - v ω T / a k 1) = L' U'

$P^{'}(A^{'}-v\omega^T/a_{k1})=L^{'}U^{'}$
定义矩阵A的置换矩阵为

P = [10 0 P'] Q

$P= \left[ \begin{matrix} 1 &0 \\ 0 &P^{'} \end{matrix} \right]Q$
计算矩阵A的LUP分解：

P A = [10 0 P'] Q A = [10 0 P'] [1 v / a k 1 0 I n - 1] [a k 1 0 ω T A' - v ω T / a k 1] = [1 P' v / a k 1 0 P'] [a k 1 0 ω T A' - v ω T / a k 1] = [1 P' v / a k 1 0 I n - 1] [a k 1 0 ω T P' (A' - v ω T / a k 1)] = [1 P' v / a k 1 0 I n - 1] [a k 1 0 ω T L' U'] = [1 P' v / a k 1 0 L'] [a k 1 0 ω T U'] = L U

$PA= \left[ \begin{matrix} 1 &0\\ 0 &P^{'} \end{matrix} \right]QA= \left[ \begin{matrix} 1 &0\\ 0 &P^{'} \end{matrix} \right] \left[ \begin{matrix} 1 &0\\ v/a_{k1} &I_{n-1} \end{matrix} \right] \left[ \begin{matrix} a_{k1} &\omega^T\\ 0 &A^{'}-v\omega^T/a_{k1} \end{matrix} \right]= \left[ \begin{matrix} 1 &0\\ P^{'}v/a_{k1} &P^{'} \end{matrix} \right] \left[ \begin{matrix} a_{k1} &\omega^T\\ 0 &A^{'}-v\omega^T/a_{k1} \end{matrix} \right]= \left[ \begin{matrix} 1 &0\\ P^{'}v/a_{k1} &I_{n-1} \end{matrix} \right] \left[ \begin{matrix} a_{k1} &\omega^T\\ 0 &P^{'}(A^{'}-v\omega^T/a_{k1}) \end{matrix} \right]= \left[ \begin{matrix} 1 &0\\ P^{'}v/a_{k1} &I_{n-1} \end{matrix} \right] \left[ \begin{matrix} a_{k1} &\omega^T\\ 0 &L^{'}U^{'} \end{matrix} \right]= \left[ \begin{matrix} 1 &0\\ P^{'}v/a_{k1} &L^{'} \end{matrix} \right] \left[ \begin{matrix} a_{k1} &\omega^T\\ 0 &U^{'} \end{matrix} \right]=LU$
于LU分解类似，我们也用循环迭代代替递归，算法如下：

LUP-DECOMPOSITON(A)
1 n=A.rows
2 let $\pi[1..n]$ be a new array
3 for i=1 to n
4    $\pi[i]=i$
5 for k=1 to n
6   p=0
7   for i=k to n
8     if $|a_{ik}|>p$
9       p= $|a_{ik}|$
10       $k^{'}=i$
11   if p==0
12     error “singular matrix”
13   exchange $\pi[k]$ with $\pi[k^{'}]$
14   for i=1 to n
15    exchange $a_{ki}$ with $a_{k^{'}i}$
16   for i=k+1 to n
17      $a_{ik}=a_{ik}/a_{kk}$
18     for j=k+1 to n
19        $a_{ij}=a_{ij}-a_{ik}a_{kj}$