矩阵初入门

​ 矩阵是一个数学工具，它可简化的问题：线性方程，线性变换，投影、最小二乘法、回归、SVD、PCA、图像处理、优化、机器学习、密码学，让复杂的公式变得简洁起来是矩阵的重要作用之一

一 基本概念

1.1 定义

​ 数学上，一个m*n的矩阵是一个由m行（row）n列（column）元素排列成的矩形阵列。矩阵里的元素可以是数字、符号或数学式。

1.2 常见矩阵

名称	特征
零矩阵	所有元素均为0
对角矩阵	对角线元素不全为0，其他元素为0
非奇异矩阵	行列式不为 0 的矩阵；也称为可逆矩阵
实对称矩阵	AT == A，即aij= aji
正交矩阵	ATA = E
正定矩阵	非0向量x使得XTAX>0
反对称阵	AT == -A，即aij=- aji，aii=0
同型矩阵	矩阵A,B的行、列数相同
行最简矩阵	非零行主元(该行最左边的第1个非零元)为1且主元所在列其他元素为0
矩阵相等	对应位置元素都相同
矩阵等价	定义:B=QAP,A经过初等变换后变为B；充要:同型且秩等

1.3 伴随矩阵

定义

$Ａ=\left(\begin{array}{ccccc}{a}_{11}& a_{12}& \cdots & a_{1,n-1}& a_{1,n}\\ a_{21}& a_{22}& \cdots & a_{2,n-1}& a_{2n}\\ ⋮& ⋮& & ⋮& ⋮\\ a_{n-1,1}& a_{n-1,2}& \cdots & a_{n-1,n-1}& a_{n-1,n}\\ a_{n1}& a_{n2}& \cdots & a_{n,n-1}& a_{nn}\end{array}\right)$

为n阶矩阵，|A|中a_ij的余子式为M_ij，代数余子式为A_ij，称

$A^{\ast }=\left(\begin{array}{ccccc}{A}_{11}& A_{21}& \cdots & A_{n-1,1}& A_{n1}\\ A_{12}& A_{22}& \cdots & A_{n-1,2}& A_{n2}\\ ⋮& ⋮& & ⋮& ⋮\\ A_{1,n-1}& A_{2,n-1}& \cdots & A_{n-1,n-1}& A_{n-1,n}\\ A_{1n}& A_{2,n}& \cdots & A_{n,n-1}& A_{nn}\end{array}\right)$

为矩阵A的伴随矩阵

性质
$$\begin{array}{l}(1)A{A}^{\ast }=A^{\ast }A=|A|E\\ (2){\left(A^{\ast }\right)}^{-1}={\left(A^{-1}\right)}^{\ast }=\frac{1}{|A|}A(|A|\ne 0)\\ (3)(kA{)}^{\ast }=k^{n-1}{A}^{\ast }\\ (4){\left(A^{\ast }\right)}^{\mathrm{T}}={\left(A^{\mathrm{T}}\right)}^{\ast }\\ (5)\left|A^{\ast }\right|=|A{|}^{n-1}\\ (6){\left(A^{\ast }\right)}^{\ast }=|A{|}^{n-2}A(n⩾2)\end{array}$$
性质1的证明：

证明
$$\begin{gathered} (3)A{A}^{\ast }=|A|E,|A||A^{\ast }|=||A|E|=|A{|}^n,|A^{\ast }|=|A{|}^{n-1} \\ (6)(A^{\ast }{)}^{\ast }=|A^{\ast }|(A^{\ast }{)}^{-}=|A{|}^{n-1}(|A|A^{-1}{)}^{-1}=|A{|}^{n-2}A \end{gathered}$$

二 运算及性质

加减

运算法则

乘法

定义(A的列数要与B的行数相同才能进行相乘)

运算

数乘

运算法则

转置

定义

矩阵多项式

重要性质

1. $ \left(\boldsymbol{A}^{{\mathrm{T}}\right)}{\mathrm{T}}=\boldsymbol{A} $
2. $ (k \boldsymbol{A})^{\mathrm{T}}=k \boldsymbol{A}^{\mathrm{T}} $
3. $ \left(\boldsymbol{A}^{-1}\right){\mathrm{T}}=\left(\boldsymbol{A}^{{\mathrm{T}}\right)}{-1} $
4. $ \left(\boldsymbol{A}^{{\mathrm{T}}\right)}{m}=\left(\boldsymbol{A}^{m}\right){\mathrm{T}} $
5. $ (\boldsymbol{A} \pm \boldsymbol{B})^{{\mathrm{T}}=\boldsymbol{A}}{\mathrm{T}} \pm \boldsymbol{B}^{\mathrm{T}} $
6. $ (\boldsymbol{A} \boldsymbol{B})^{{\mathrm{T}}=\boldsymbol{B}}{\mathrm{T}} \boldsymbol{A}^{\mathrm{T}} $

补充

$(1)A\ne 0,B\ne 0,无法推出AB\ne 0$，同理AB=0也无法推出A=0或B=0

$(2)A\ne 0,无法推出A^k\ne 0$

$(3)Ax=\lambda x特征值,有f(A)x=f(\lambda )x$

$(4)AB=A({\beta }_1,\beta 2)=({\alpha }_1,{\alpha }_2)B$

$(5)A^2-A-6E=(A+2E)(A-3E)$

$(6)若AB=BA，则(AB{)}^2=(BA{)}^2$

$(7)若C=AB，则说明C的列向量可由A的列向量表示，r(A,C)=r(A)$

注意：矩阵的乘法交换律不一定成立【如AB 不一定等于BA】；矩阵有零因子；矩阵没有消去律。

三 矩阵的逆

背景

3.1 定义

类比一个数的倒数乘以该数，值为1

注意：若矩阵A可逆则对应的逆矩阵是唯一的。若A可逆，由AB=AC可推出B=C，当A不可逆时候不一定。

3.2 逆阵定理

​ 设A为nxn矩阵，则下列命题是等价的，即对某一特定的矩阵A，它们同时为真或同时为假。

$$\begin{array}{l}\text{ a. }A\text{ 是可逆矩阵. }\\ \text{ b. }A\text{ 行等价于 }n\times n\text{ 单位矩阵. }\\ \text{ c. }A\text{ 有 }n\text{ 个主元位置. }\\ \text{ d. 方程 }A\mathbf{x}=0\text{ 仅有平凡解. 即零解}\\ \text{ e. }A\text{ 的各列线性无关. }\\ \text{ f. 线性变换 }\mathbf{x}\mapsto A\mathbf{x}\text{ 是一对一的. }\\ \text{ g. 对 }{\mathbb{R}}^n\text{ 中任意 }\mathbf{b},\text{ 方程 }A\mathbf{x}=\mathbf{b}\text{ 至少有一个解 }\\ \text{ h. }A\text{ 的各列生成 }{\mathbb{R}}^n\text{. }\\ \text{ i. 线性变换 }\mathbf{x}\mapsto A\mathbf{x}\text{ 把 }{\mathbb{R}}^n\text{ 映上到 }{\mathbb{R}}^n.\\ \text{ j. 存在 }n\times n\text{ 矩阵 }C\text{ 使 }CA=I.\\ \text{ k. 存在 }n\times n\text{ 矩阵 }D\text{ 使 }AD=I.\\ \text{ l. }{A}^{\top }\text{ 是可逆矩阵. }\\ \text{ m. }|A|\ne 0\\ \text{ n. }A为若干初等阵之积\end{array}$$

证明命题m
$$\begin{gathered} 充分性\because |A|!\ne 0\therefore A{A}^{\ast }=|A|E,A\frac{1}{|A|}{A}^{\ast }=E,A^{-1}=\frac{1}{A}{A}^{\ast } \\ 必要性\because A可逆\therefore 存在BA=E,|B||A|=1,可得|A|\ne 0 \end{gathered}$$
证明a-l：

3.3 性质

简单抽象矩阵的逆阵可假设为【x₁₁,x₁₂;x₂₁,x₂₂】

$$\begin{array}{l}\text{ 1. }{\left({\mathbf{A}}^{-1}\right)}^{-1}=\mathbf{A}.\\ \text{ 2. }(k\mathbf{A}{)}^{-1}=\frac{1}{k}{\mathbf{A}}^{-1}.\\ \text{ 3. }(\mathbf{A}\mathbf{B}{)}^{-1}={\mathbf{B}}^{-1}{\mathbf{A}}^{-1}.\\ \text{ 4. }{\left({\mathbf{A}}^{\mathrm{T}}\right)}^{-1}={\left({\mathbf{A}}^{-1}\right)}^{\mathrm{T}}\text{. }\\ \text{ 5. }{\left({\mathbf{A}}^n\right)}^{-1}={\left({\mathbf{A}}^{-1}\right)}^n.\\ \text{ 6. 设 }\mathbf{A},\mathbf{B}\text{ 分别为 }m\text{ 利 }n\text{ 阶可逆矩阵,则 }\\ \begin{array}{ll}\text{ (1) }{\left(\begin{array}{ll}\mathbf{A}& \mathbf{O}\\ \mathbf{O}& \mathbf{B}\end{array}\right)}^{-1}=\left(\begin{array}{cc}{\mathbf{A}}^{-1}& \mathbf{O}\\ \mathbf{O}& {\mathbf{B}}^{-1}\end{array}\right);& \\ \text{ (2) }{\left(\begin{array}{ll}\mathbf{O}& \mathbf{A}\\ \mathbf{B}& \mathbf{O}\end{array}\right)}^{-1}=\left(\begin{array}{cc}\mathbf{O}& {\mathbf{B}}^{-1}\\ {\mathbf{A}}^{-1}& \mathbf{O}\end{array}\right)& \\ \text{ (3) }{\left(\begin{array}{ll}\mathbf{A}& \mathbf{C}\\ \mathbf{O}& \mathbf{B}\end{array}\right)}^{-1}=\left(\begin{array}{cc}{\mathbf{A}}^{-1}& -{\mathbf{A}}^{-1}\mathbf{C}{\mathbf{B}}^{-1}\\ \mathbf{O}& {\mathbf{B}}^{-1}\end{array}\right)& \end{array}\end{array}$$

三种运算：*、T、^-1是可交换的

证明6(3)
$$\begin{gathered} \left(\begin{array}{ll}\mathbf{A}& \mathbf{C}\\ \mathbf{O}& \mathbf{B}\end{array}\right)\left(\begin{array}{cc}{\mathbf{x}}_{11}& {\mathbf{x}}_{12}\\ {\mathbf{x}}_{21}& {\mathbf{x}}_{22}\end{array}\right)=E \\ B{X}_{21}=0,X_{21}=0 \\ B{X}_{22}=E,X_{22}=B^{-1} \\ A{X}_{11}+C{X}_{21}=E,X_{11}=A^{-1} \\ A{X}_{12}+C{X}_{22}=0,A^{-}A{X}_{12}=-A^{-1}C{B}^{-1} \end{gathered}$$

3.4 逆阵求解

一般不使用方法一，但是可以使用该公式的逆求伴随矩阵。

紧抓定义式：B * B的逆 = E

初等变换法中即可行变换、也可列变换

伴随矩阵法

运算量大

例题：

初等变换法

​ 把A变换为E的过程，每一次变换相当于初等变换，累积起来就相当于A的逆。

证明：

例题：

拼凑法

​ 这一类问题为已知关于矩阵A的某个式子，求（A+kE）的逆，思路是拼凑出 (A+kE) ( 拼凑 ) = E，从而可得(A+kE)的逆。拼凑时候要出现题目给出的已知条件。$1-b^n=(1-b)(1+b+b^2+...b^{n-1})$

【例】$A^2+A-4E=0,求(A-E)的逆$

【解】$(A-E)(A+2E)=2E,从而(A-E{)}^{-}=\frac{1}{2}(A+2E)$

matlab

a=[1 2 3;4 5 6; 7 8 9]
inv(a)

3.5 类单位阵的逆

对角矩阵的逆
$${\left[\begin{array}{lll}{a}_1& & \\ & a_2& \\ & & a_3\end{array}\right]}^{-1}=\left[\begin{array}{lll}\frac{1}{a_1}& & \\ & \frac{1}{a_2}& \\ & & \frac{1}{a_3}\end{array}\right]$$

类E矩阵的逆，把对角元素的位置改为1/k，再根据式子补充。

$${\left[\begin{array}{cc}2& -1\\ 0& 1\end{array}\right]}^{-1}=\left[\begin{array}{cc}\frac{1}{2}& 1\\ 0& 1\end{array}\right]$$

反单位阵+仅1个其他位置元素，则其逆为对称位置的值添加负号（仅适用于奇数阶+仅一个位置元素更改）。

$${\left[\begin{array}{ccc}0& 2& 1\\ 0& 1& 0\\ 1& 0& 0\end{array}\right]}^{-1}=\left[\begin{array}{ccc}0& 0& 1\\ 0& 1& 0\\ 1& -2& 0\end{array}\right]$$

初等变换的E型阵逆阵是它变换的负数（思考，列变换）

$E_{i,j}^{-1}(k)=E_{i,j}(-k)$

只对换行或列的E型阵的逆是它本身（思考，行变换）

$E_{(i,j)}^{2013}{E}_{(i,j)}=E$

3.6 证明可逆

不可逆：|A| = -|A| = 0

四 初等变换

方程组的以下三种变形称为方程组的同解变形
（1）对调两个方程；

（2）某个方程两边同乘以一个非零常数；

（3）某个方程的倍数加到另一个方程

（4）代参数时候注意不能把0为这个可能性约分

4.1 行变换

E_(i,j)(k)第j行的k倍加到i行，左乘

（1）对调矩阵的两行；

（2）矩阵的某行乘以非零常数k；

（3）矩阵某行的倍数加到另一行

4.2 列变换

E_(i,j)(k)第i列的k倍加到j列，右乘

（1）对调矩阵的两列;

（2）矩阵某列乘以非零常数k;

（3）矩阵某列的倍数加到另一列

矩阵的初等行变换和初等列变换统称为矩阵的初等变换

4.3 初等矩阵

由单位矩阵经一次初等变换得到的矩阵称为初等矩阵，们分别是

变换名称	符号	作用
倍乘初等矩阵	E(i(k))	E的第i行(或第i列)乘以k倍
互换初等矩阵	E(i,j)	E的第i、j行(列)互换
倍加初等矩阵	E(ij(k))	E的第j行(或i列)的k倍加到第i行(j列)

注意：左乘 行变换；右乘 列变换。关于E_ij有一些书籍的ij可能是相反的。下面LU分解中的E_ij以该处为准。

​ 仅经过行变换Q，无法保证可把矩阵A转换为$=\left(\begin{array}{cc}\text{ Er }& 0\\ 0& 0\end{array}\right)$，因为行上下加减只能把下变为0；仅经过列变换P只能把右变为0；因此，如果行、列变换都进行，QAP（Q，P均可逆），则可以把A转换为$=\left(\begin{array}{cc}\text{ Er }& 0\\ 0& 0\end{array}\right)$

五 矩阵的秩

更详细的内容请参阅线性代数及其应用第二章及子空间内容

5.1 定义

定义1 类似极大线性无关组

定义2

​ 矩阵A的秩(记为rank A)是A的列空间的维数.

5.2 求法

求法1

求法2 行变换阶梯化，非零行的个数

5.3 性质

证明性质(1)（同解的线性方程组，秩相等）
$$\begin{gathered} AX=0,A^{T}AX=0 \\ {A}^{T}AX=0,X^T{A}^{T}AX=(AT{)}^{T}AX=0 \\ 即AX=0,所以A{A}^{T}A同解,故秩相等 \end{gathered}$$
(1)$r ( A ) = r ( A ^ { T } ) = r ( A ^ { T } A ) $

(2)当$k\ne 0$时$r(kA)=r(A)$

(3)$r(A\pm B)\le r(A)+r(B)，max(r(A),r(B))\le r(A,B)\le r(A)+r(B)$

(4)$r(C)=r(AB)\le min(r(A),r(B))、r(C)\le r(A)r(C)\le r(B)？$

(5)若$A$可逆，则$r(AB)=r(B),r(BA)=r(B)$

(6)若$A$是$m\times n$矩阵,$B$是$n\times s$矩阵,$AB=O$则$r(A)+r(B)\le n$

(7)$r[\begin{array}{ll}A& 0\\ 0& B\end{array}|=r(A)+r(B)$、$r[\begin{array}{ll}A& AB\\ 0& B\end{array}|=r(A)+r(B)$(通过列变换可消去AB(a_1+a_2,a_2+a_1)，而B由于左侧是0阵，不受影响；BA就未必了，无法消去)， $r(A,AB)=r(A)，r(A,BA)\ge r(A)$

(8)若$A\sim B$则$r(A)=r(B),r(A+kE)=r(B+kE)$

(9)$r\left({\mathbf{A}}^{\ast }\right)=\{\begin{array}{ll}n,& \text{ 如果 }r(\mathbf{A})=n,\\ 1,& \text{ 如果 }r(\mathbf{A})=n-1,\\ 0,& \text{ 如果 }r(\mathbf{A})<n-1.\end{array}(n\ge 2)$

(10) $r(A)=1的充要条件是存在\alpha 和\beta \ne 0,使得A=\alpha {\beta }^T$（默认是列向量，展开后其他行都是第一行的倍数）

(11) $r(A)=1,A^n=k^{n-1}A,其中k=\alpha {\beta }^T=\sum a_{ii}=\sum {\lambda }_i$

(12) 矩阵的r=m，则任意的m+1阶子式的行列式均为0

证明性质(9) M_{ij}：n-1阶子式
$$\begin{gathered} \because r(A)=n,|A|\ne 0,|A\ast |=|A{|}^{n-1}\ne 0\therefore r(A^{\ast })=n \\ \because r(A)=n-1,A{A}^{\ast }=0,r(A)+r(A^{\ast })\le n,r(A^{\ast })\le 1 \\ 又\because 存在M_{ij}\ne 0，则A^{\ast }不是0阵，r(A^{\ast })\ge 1\therefore r(A^{\ast })=1 \\ \because r(A)<n-1\therefore M_{ij}=0,r(A^{\ast })=0 \end{gathered}$$
秩的本质是方程组约束条件的个数

矩阵等价QAP=B 则其 充要条件 r(A) = r(B)

列向量的秩等于0或1（当a是0向量时候秩才为0）

${\alpha }^{\top }\alpha =\left(a_1\dots a_n\right)\left|\begin{array}{c}{a}_1\\ ⋮\\ a_n\end{array}\right|=a_1^2+\cdots +a_n^2=|\alpha {|}^2\ge 0$

【例题】2021数一

六 分块矩阵

思想：矩阵可以看作是一个数的矩形表，也可以把它看作一组列向量。

6.1 定义

​ 将矩阵用若干纵线和横线分成许多小块，每一小块称为原矩阵的子矩阵（或子块），把子块看成原矩阵的一个元素，则原矩阵叫分块矩阵

6.2 运算

加法

乘法

其他

${\left[\begin{array}{ll}\mathbf{A}& \mathbf{B}\\ \mathbf{C}& \mathbf{D}\end{array}\right]}^{\mathrm{T}}=\left[\begin{array}{ll}{\mathbf{A}}^{\mathrm{T}}& {\mathbf{C}}^{\mathrm{T}}\\ {\mathbf{B}}^{\mathrm{T}}& {\mathbf{D}}^{\mathrm{T}}\end{array}\right]$

七 矩阵因式分解

思想

• 矩阵乘法是数据的综合，矩阵因式分解是数据的分解
• 矩阵因式分解把矩阵表示为多个矩阵的乘积。
• 计算机中称之为对A数据的预处理，该结构或许更有利与分析，可能更利于计算。

7.1 LU分解

​ 在研究如何构造LU之前，我们看看它的作用。当A=LU，方程Ax=b可以写为L(Ux) = b，令Ux=y，则Ly=b，Ux=y。由于L,U均为三角矩阵，因此求解较为容易。

LU分解算法

7.2 分解实例

题目：

解：

​

​ 这里需要注意一下，单位矩阵基础上增加某个位置元素值为k，那么其对应的逆矩阵就是单位矩阵加该位置的-k。

​ 例如L₂₁=-2其实是E₂₁(2)的"逆"，意为把第一行的2倍加到第二行，由矩阵A可以看出，其实就相当于 -4+2*(2)=0

​ LU分解在数值计算中的作用

八 其他

8.1 方阵行列式

8.2 其他

进阶阅读书籍

名称	难度
MIT的线代课
线性代数及其应用	入门
3Blue1blown的线性代数本质系列

九 基础例题

AA*=|A|E

9.1 矩阵运算

逆的关系

解：
$$\begin{gathered} 若ABC=E \\ 则A^{-1}=BC或AB=C^{-1} \\ 有A^{-1}A=BCA=E或C{C}^{-1}=CAB=E \end{gathered}$$

分解后发现即证明AB=BA，利用题目信息左乘右乘共4仲，对比式子

4. 方阵的行列式

9.2 幂矩阵

法二
$$\begin{array}{rl}& 矩阵A_1的作用：\\ & 1.第一行乘以倍数1\\ & 2.E_{12}(1):第二行的1倍加到第一行\\ & 3.第二行乘以倍数2\\ & 显然A^n中a_{11}=a_{22}=2^n,a_{21}=0\\ & A^{2}2\times 1+2^1\\ & A^{3}2\times [2\times 1+2^1]+2^2\\ & A^{4}2\times [2\times [2\times 1+2^1]+2^2]+2^3\\ & A^{n}2\times [2\times [2\times [2.[.[.[2\times 1+2^1]+2^2]+2^3].]...+2^{n-2}]+2^{n-1}\\ & =2^{n-1}+2^{n-1}+2^{n-1}+.........+2^{n-1}\\ & =n\times 2^{n-1}=C_n^1\times 2^{n-1}\\ & 感觉有点像秦九韶\\ & 由此可得A_1^n=\left[\begin{array}{cc}{2}^n& C_n^1{2}^{n-1}\\ 0& 2^n\end{array}\right]\end{array}$$

2. P[] = AP,因此P^-1AP = []

解：P的逆，E₍₂₁₎(1),E₍₂₃₎(-1)P = E

解（2）P[A|E] = [PA | P] = [B | P] E(12),E₍₃₁₎(-2),E₍₂₃₎,E₍₃₂₎(1),E₍₂₁₎(1)

9.3 逆阵计算

1. 证明一个矩阵可逆即证明该矩阵 [] 乘以某个矩阵 [] = E

2. 拼凑

5. 证明一个矩阵可逆，则找出它的逆或者证明其行列式不为0

7. 求逆

9.4 A*与逆矩

紧抓公式 A* = |A|A_-1

3. $计算A^{-1}B时候不需要把A的逆算出来，仅需[A|B]变换为[A^{-1}A|A^{-1}B]=[E|A^{-1}B]$

6. 类正单位阵的逆是它本身

A可逆，E(i,j)A = B，求A*与B*的关系
$$\begin{gathered} \because E(i,j)A=B,|E(i,j)||A|=-|A|=|B| \\ \therefore B^{\ast }=|B|B^{-1}=-|A|A^{-1}E(i,j{)}^{-1}=-A^{\ast }E(i,j) \end{gathered}$$

9.6 秩的计算

1. 若 AB = 0 则 $r(\mathbf{A})+r(\mathbf{B})⩽n$