线性代数 | 复习笔记

以清华大学林润亮老师的ppt为基础进行整理
主要用来进行知识点回顾和快速复习

1 向量及其运算

线性代数

线性代数是建立在向量的 加法 和 数乘 这两种所谓 线性运算 上的

两向量相等

两个向量相等 $⟺$ 两者长度相等, 方向相同

向量运算性质

向量加法和数乘的运算性质: 交结零负一乘分分
分别是: 向量加法交换律, 向量加法结合律, 零向量, 反向量, 1 数乘向量, 两个数乘数乘向量, 两个数加数乘向量, 一个数数乘两个向量

列向量

$$\mathbf{a}=\left(\begin{array}{c}{a}_1\\ a_2\\ ⋮\\ a_n\end{array}\right)$$
其中 $a_i$ 为向量 $\mathbf{a}$ 的第 $i$ 个分量

向量的线性组合

设 ${\mathbf{v}}_1,\cdots ,{\mathbf{v}}_m$ 为 $m$ 个 $n$ 维向量, 称 $c_1{\mathbf{v}}_1+\cdots +c_m{\mathbf{v}}_m$ 为向量 ${\mathbf{v}}_1,\cdots ,{\mathbf{v}}_m$ 的一个线性组合

在 3 维空间中，一般，对于向量 $\mathbf{u},\mathbf{v},\mathbf{w}$
{非零向量 $\mathbf{u}$} 的所有线性组合是一条直线;
{不共线的 $\mathbf{u},\mathbf{v}$} 的所有线性组合是一个平面;

{不共面的 $\mathbf{u},\mathbf{v},\mathbf{w}$} 的所有线性组合是整个三维空间.

向量的长度

向量 $\mathbf{v}$ 的长度或模定义为 $\Vert \mathbf{v}\Vert =\sqrt{\mathbf{v}\cdot \mathbf{v}}$

向量正交

若 $\mathbf{v}\cdot \mathbf{w}=0$, 则称向量 $\mathbf{v}$ 和 $\mathbf{w}$ 垂直 / 正交. 记作 $\mathbf{v}\perp \mathbf{w}$

Cauchy-Schwarz 不等式

$|\mathbf{v}\cdot \mathbf{w}|=\Vert \mathbf{v}\Vert \Vert \mathbf{w}\Vert$, 等号成立当且仅当一个向量是另一个向量的倍数.

三角不等式

$\Vert \mathbf{v}+\mathbf{w}\Vert \le \Vert \mathbf{v}\Vert +\Vert \mathbf{w}\Vert$, 等号成立当且仅当 $\mathbf{v},\mathbf{w}$ 之一为另一向量的非负倍数.

2 矩阵与线性方程组

对矩阵与向量乘积的理解

$A\mathbf{x}$
理解1 得到 $A$ 各列向量的一个线性组合;
理解2 列向量 $ \boldsymbol x$ 与 $A$ 各行向量做内积

对线性方程组的理解

$A\mathbf{x}=\mathbf{b}$
理解1 求 $A$ 列向量的线性组合, 使之等于 $\mathbf{b}$;
理解2 求向量 $\mathbf{x}$, 使之与 $A$ 的行向量内积分别为 $\mathbf{b}$ 中的元素

可逆矩阵

若 $A\mathbf{x}=\mathbf{b}$($n$ 个方程, $n$ 个未知数) 对任意向量 $\mathbf{b}$ 有唯一解, 则称方阵 $\mathbf{A}$ 可逆

若 $A=(\mathbf{u},\mathbf{v},\mathbf{w})$ 可逆, 则 $\mathbf{u},\mathbf{v},\mathbf{w}$ 的全部线性组合所得空间是整个三维空间, 这时向量 $\mathbf{u},\mathbf{v},\mathbf{w}$ 线性无关 / 不共面, 相应 $A\mathbf{x}=\mathbf{b}$ 只有零解

线性方程组的行图和列图

行图(二维) 两直线交点
列图两列向量的线性组合

3 高斯消元法

矩阵的初等行变换

对方程组 $A\mathbf{x}=\mathbf{b}$, 消元法涉及以下三种同解变形:

1. 把一个方程减去另一个方程的倍数;
2. 交换两个方程的位置;
3. 用一个非零数乘一个方程.

相应地对增广矩阵作以下三种行变换 (即: 初等行变换):

1. 把一行减去另一行的倍数;
2. 交换两行;
3. 用一个非零数乘一行.

增广矩阵

对线性方程组 $A\mathbf{x}=\mathbf{b}$ 做消元法, 即用一系列初等矩阵在左边, 去乘增广矩阵 $(A|\mathbf{b})$

消去矩阵

将单位阵中某个 $0$ 变为非零的数得到的矩阵称为消去矩阵, 消去矩阵是一类初等矩阵

置换阵

如 $P_{12}=\left(\begin{array}{ccc}0& 1& 0\\ 1& 0& 0\\ 0& 0& 1\end{array}\right)$
置换阵 $P$ 满足 $P^{-1}=P^T$

4 矩阵的运算

矩阵乘法的性质

满足结合律, 左分配律, 右分配律
矩阵的乘法一般不可交换, 消去律一般也不成立

分块矩阵

矩阵的转置

若 $A^T=A$ 则称 $A$ 是一个对称矩阵
若 $A^T=-A$ 则称 $A$ 是一个反对称矩阵
若 $R$ 为 $m\times n$ 矩阵 (实数域), 则 $R{R}^T$ 为 $m\times n$ 对称矩阵, 且其对角元均非负

5 矩阵的逆

逆矩阵

对方阵 $A$, 若存在矩阵 $B$, 满足 $AB=BA=I$, 则称 $A$ 是可逆的. 称 $B$ 是 $A$ 的逆矩阵, 记作 $A^{-1}$.
可逆矩阵也称为非奇异矩阵, 不可逆矩阵也称为奇异矩阵

性质

1. $n$ 阶阵 $A$ 可逆等价于 $A$ 有 $n$ 个主元
2. 方阵的逆唯一
3. 若 $A$ 可逆, 则 $A\mathbf{x}=\mathbf{b}$ 有唯一解 $\mathbf{x}=A^{-1}\mathbf{b}$
4. 若 $A\mathbf{x}=0$ 有非零解, 则 $A$ 不可逆
5. 二阶阵 $A=\left(\begin{array}{cc}a& b\\ c& d\end{array}\right)$ 可逆等价于 $ad-bc\ne 0$, 且 $A^{-1}=\frac{1}{ad-bc}\left(\begin{array}{cc}d& -b\\ -c& a\end{array}\right)$
6. 对角阵可逆等价于对角元均不为 $0$
7. $(A^{-1}{)}^{-1}=A$
8. $(AB{)}^{-1}=B^{-1}{A}^{-1}$

6 LU 分解

将矩阵分解成一个下三角矩阵和一个上三角矩阵的乘积
$EA=U,A=E^{-1}U=LU$
$A=E^{-1}DU=LDU$ 其中 $L$ 和 $U$ 的对角元为 $1$

LU 分解的存在性和唯一性

设可逆矩阵 $A=(a_{ij}{)}_{n\times n}$ 的顺序主子式 $A_k=(a_{ij}{)}_{k\times k}(k=1,\cdots ,n)$ 均为可逆阵, 则 $A$ 有 $LU$ 分解. 若 $l_{ii}=1,u_{ii}\ne 0(1\le i\le n)$, 则分解唯一

设 $A$ 是一个 $n$ 阶可逆阵, 则存在置换阵 $P$ 使得 $PA=LU$

对称矩阵的 $LD{L}^T$ 分解

7 向量空间

向量子空间

设 $V$ 是 ${\mathbb{R}}^n$ 的非空子集, 且 $V$ 关于向量加法和数乘运算封闭 ($\forall \alpha ,\beta \in V,\forall c_1,c_2\in \mathbb{R}⟹c_1\alpha +c_2\beta \in V$), 则称 $V$ 是 ${\mathbb{R}}^n$ 的一个向量子空间

推广的向量空间的定义

在由称为“向量”的元素构成的非空集合 $V$ 中, 若定义了加法和数乘运算, 且对任意向量 $\mathbf{a},\mathbf{b},\mathbf{c}$ 及数域 $\mathbb{F}$, $k,l\in \mathbb{F}$ 满足以下八条性质:

1. $\mathbf{a}+\mathbf{b}=\mathbf{b}+\mathbf{a}$
2. $\mathbf{a}+(\mathbf{b}+\mathbf{c})=(\mathbf{a}+\mathbf{b})+\mathbf{c}$
3. 存在零向量 $0,\mathbf{a}+0=\mathbf{a}$
4. 对任意向量 $\mathbf{a}$, 存在唯一相反向量 $-\mathbf{a}$, 使得 $\mathbf{a}+(-\mathbf{a})=0$
5. $1\cdot \mathbf{a}=\mathbf{a}$
6. $(kl)\mathbf{a}=k(l\mathbf{a})$
7. $k(\mathbf{a}+\mathbf{b})=k\mathbf{a}+k\mathbf{b}$
8. $(k+l)\mathbf{a}=k\mathbf{a}+l\mathbf{a}$

则称 $V$ 为定义在数域 $\mathbb{F}$ 上的向量空间

列空间

$A$ 的列向量所有线性组合构成的空间称为 $A$ 的列空间, 记作 $C(A)$
C ( A ) = { c 1 α 1 + c 2 α 2 + ⋯ + c n α n ∣ c i ∈ R } = { y ∈ R m ∣ y = A x , x ∈ R n } C(A)=\{c_1 \boldsymbol \alpha_1+ c_2 \boldsymbol \alpha_2+\cdots+ c_n \boldsymbol \alpha_n | c_i\in \mathbb R\}=\{\boldsymbol y\in\mathbb R^m | \boldsymbol y=A \boldsymbol x,\boldsymbol x\in \mathbb R^n\} C(A)={ c1​α1​+c2​α2​+⋯+cn​αn​∣ci​∈R}={ y∈Rm∣y=Ax,x∈Rn}

$A\mathbf{x}=\mathbf{b}$ 有解 $⟺\mathbf{b}\in C(A)$

求列空间: 将矩阵化为阶梯形, 阶梯形中主元所在的的列 / 原矩阵中主元所在的列的线性组合就是列空间

零空间

N ( A ) = { x ∣ A x = 0 } ⊂ R n N(A)=\{\boldsymbol x | A \boldsymbol x= \boldsymbol 0\}\subset \mathbb R^n N(A)={ x∣Ax=0}⊂Rn

求零空间: 将矩阵化为阶梯形 / 简化行阶梯形 (RREF), 将主元所在的列对应解 $\mathbf{x}$ 位置的数字标记为 1, 通过 $A\mathbf{x}=0$ 确定 $\mathbf{x}$