【Linear Algebra】向量

3. 向量

本文重点在知识归纳，不帮助理解

3.1 n 维向量的概念与计算

3.1.1 概念

$n$ 维向量：$n$ 个数 $a_1,a_2,\dots ,a_n$ 所构成的一个有序数组称为 n 维向量，记成 $(a_1,a_2,\dots ,a_n)$ 或 $(a_1,a_2,\dots ,a_n{)}^T$，称 $n$ 维行向量或 $n$ 维列向量，其中 $a_i$ 称为向量的第 $i$ 个分量

零向量：所有分量为 0 的向量称为零向量，记为 $0$

3.1.2 计算

• 加法：$\mathbf{\alpha }+\mathbf{\beta }=(a_1+b_1,a_2+b_2,\dots ,a_n+b_n)$
• 数乘：$k\mathbf{\alpha }=(k{a}_1,k{a}_2,\dots ,k{a}_n)$
• 内积：$(\mathbf{\alpha },\mathbf{\beta })=a_1{b}_1+a_2{b}_2+\cdots +a_n{b}_n={\mathbf{\alpha }}^T\mathbf{\beta }={\mathbf{\beta }}^T\mathbf{\alpha }$

若 $(\mathbf{\alpha },\mathbf{\beta })=0$，称向量 $\mathbf{\alpha }$ 与 $\mathbf{\beta }$ 正交

3.2 线性表出、线性相关

3.2.1 线性表出概念

$m$ 个 $n$ 维向量 ${\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,\dots ,{\mathbf{\alpha }}_{\mathbf{m}}$ 及 $m$ 个数 $k_1,k_2,\dots ,k_m$ 所构成的向量

$$k_1{\mathbf{\alpha }}_1+k_2{\mathbf{\alpha }}_2+\cdots +k_m{\mathbf{\alpha }}_m=\mathbf{\beta }$$

$\mathbf{\beta }$ 称为向量组 ${\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,\dots ,{\mathbf{\alpha }}_{\mathbf{m}}$ 的一个线性组合（或者说 $\mathbf{\beta }$ 可由 ${\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,\dots ,{\mathbf{\alpha }}_{\mathbf{m}}$ 的线性表出（示）），数 $k_1,k_2,\dots ,k_m$ 称为组合系数。

设有向量组(1) ${\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,\dots ,{\mathbf{\alpha }}_{\mathbf{s}}$ 与向量组(2) ${\mathbf{\beta }}_1,{\mathbf{\beta }}_2,\dots ,{\mathbf{\beta }}_{\mathbf{t}}$，若(1)中的每一个向量都可由(2)线性表出，则称向量组(1)可由向量组(2)线性表出

• 如果两个向量组可以互相线性表出，则称这两个向量组等价
• 等价向量组具有传递、对称、反身性
• 向量组和它的极大线性无关组是等价向量组
• 向量组的任意两个极大线性无关组是等价向量组
• 等价的向量组具有相同的秩，但秩相等的向量组不一定等价

3.2.2 线性相关、线性无关概念

对于 $n$ 维向量 ${\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,\dots ,{\mathbf{\alpha }}_{\mathbf{s}}$，如果存在不全为零的数 $k_1,k_2,\dots ,k_s$ 使得

$$k_1{\mathbf{\alpha }}_1+k_2{\mathbf{\alpha }}_2+\cdots +k_s{\mathbf{\alpha }}_s=0$$

则称向量组 ${\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,\dots ,{\mathbf{\alpha }}_{\mathbf{s}}$ 线性相关，否则称线性无关

3.2.3 重要定理

定理 1：$n$ 维向量 ${\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,\dots ,{\mathbf{\alpha }}_{\mathbf{s}}$ 线性相关 $\iff$ 齐次方程组 $({\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,\dots ,{\mathbf{\alpha }}_{\mathbf{s}})\left[\begin{array}{c}{x}_1\\ x_2\\ \dots \\ x_s\end{array}\right]=0$ 有非零解 $\iff$ 秩 $r({\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,\dots ,{\mathbf{\alpha }}_{\mathbf{s}})<s$

• 推论 1：$n$ 个 $n$ 维向量 ${\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,\dots ,{\mathbf{\alpha }}_{\mathbf{n}}$ 线性相关 $\iff$ 行列式 $|{\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,\dots ,{\mathbf{\alpha }}_{\mathbf{n}}|$ = 0
• 推论 2：$n+1$ 个 $n$ 维向量必线性相关
• 推论 3：如果 ${\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,\dots ,{\mathbf{\alpha }}_{\mathbf{r}}$ 线性相关，则 ${\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,\dots ,{\mathbf{\alpha }}_{\mathbf{r}},{\mathbf{\alpha }}_{\mathbf{r}+1},\dots ,{\mathbf{\alpha }}_{\mathbf{s}}$ 必线性相关
• 推论 4：如果 $n$ 维向量组 ${\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,\dots ,{\mathbf{\alpha }}_{\mathbf{s}}$ 线性无关，则他的延伸组 $\left(\begin{array}{c}{\mathbf{\alpha }}_1\\ {\mathbf{\beta }}_1\end{array}\right),\left(\begin{array}{c}{\mathbf{\alpha }}_2\\ {\mathbf{\beta }}_2\end{array}\right),\dots ,\left(\begin{array}{c}{\mathbf{\alpha }}_s\\ {\mathbf{\beta }}_s\end{array}\right)$必线性无关

（齐次方程组就是常数项全为零的方程组）

定理 2：$n$ 维向量 $\mathbf{\beta }$ 可由 ${\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,\dots ,{\mathbf{\alpha }}_{\mathbf{m}}$ 线性表出 $\iff$ 非齐次方程组 $({\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,\dots ,{\mathbf{\alpha }}_{\mathbf{m}})\left[\begin{array}{c}{x}_1\\ x_2\\ \dots \\ x_m\end{array}\right]=\mathbf{\beta }$ 有解 $\iff$ 秩 $r({\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,\dots ,{\mathbf{\alpha }}_{\mathbf{m}})=r({\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,\dots ,{\mathbf{\alpha }}_{\mathbf{s}},\mathbf{\beta })$

定理 3：向量组 ${\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,\dots ,{\mathbf{\alpha }}_{\mathbf{s}}$ 线性相关 $\iff$ 至少有一个向量 ${\mathbf{\alpha }}_i$ 可以由其余 $s-1$ 个向量线性表出

定理 4：向量组 ${\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,\dots ,{\mathbf{\alpha }}_{\mathbf{s}}$ 线性无关，而向量组 ${\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,\dots ,{\mathbf{\alpha }}_{\mathbf{s}},\mathbf{\beta }$ 线性相关，则向量 $\mathbf{\beta }$ 可以由 ${\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,\dots ,{\mathbf{\alpha }}_{\mathbf{s}}$ 线性表出，且表示法唯一

定理 5：设有两个 $n$ 维向量组(1) ${\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,\dots ,{\mathbf{\alpha }}_{\mathbf{s}}$ 与向量组(2) ${\mathbf{\beta }}_1,{\mathbf{\beta }}_2,\dots ,{\mathbf{\beta }}_{\mathbf{t}}$，如果(1)能由(2)线性表出，且 $s>t$，则 ${\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,\dots ,{\mathbf{\alpha }}_{\mathbf{s}}$ 必线性相关

• 推论 1：若 $n$ 维向量组 ${\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,\dots ,{\mathbf{\alpha }}_{\mathbf{s}}$ 可由 ${\mathbf{\beta }}_1,{\mathbf{\beta }}_2,\dots ,{\mathbf{\beta }}_{\mathbf{t}}$ 线性表出，且 ${\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,\dots ,{\mathbf{\alpha }}_{\mathbf{s}}$ 线性无关，则 $s\le t$

3.3 极大线性无关组、秩

3.3.1 极大线性无关组、向量组秩的概念

极大线性无关组：

设向量组 ${\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,\dots ,{\mathbf{\alpha }}_{\mathbf{s}}$ 中，有一个部分组 ${\mathbf{\alpha }}_{{\mathbf{i}}_1},{\mathbf{\alpha }}_{{\mathbf{i}}_2},\dots ,{\mathbf{\alpha }}_{{\mathbf{i}}_{\mathbf{r}}}(1\le r\le s)$，满足以下条件

1. ${\mathbf{\alpha }}_{{\mathbf{i}}_1},{\mathbf{\alpha }}_{{\mathbf{i}}_2},\dots ,{\mathbf{\alpha }}_{{\mathbf{i}}_{\mathbf{r}}}$ 线性无关；
2. 再添加任一向量 ${\alpha }_j(1\le j\le s)$，向量组 ${\mathbf{\alpha }}_{{\mathbf{i}}_1},{\mathbf{\alpha }}_{{\mathbf{i}}_2},\dots ,{\mathbf{\alpha }}_{{\mathbf{i}}_{\mathbf{r}}},{\mathbf{\alpha }}_{\mathbf{j}}$ 必线性相关

则称向量组 ${\mathbf{\alpha }}_{{\mathbf{i}}_1},{\mathbf{\alpha }}_{{\mathbf{i}}_2},\dots ,{\mathbf{\alpha }}_{{\mathbf{i}}_{\mathbf{r}}}$ 是向量组 ${\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,\dots ,{\mathbf{\alpha }}_{\mathbf{s}}$ 的一个极大线性无关组

• 只有一个零向量构成的向量组没有极大线性无关组
• 一个线性无关的向量组的极大线性无关组是该向量组本身
• 向量组的极大线性无关组一般不唯一，但其极大线性无关组的向量个数是一样的
• 条件 2 的等价说法是：向量组 ${\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,\dots ,{\mathbf{\alpha }}_{\mathbf{s}}$ 中任一个向量 ${\alpha }_j(1\le j\le s)$ 必可由 ${\mathbf{\alpha }}_{{\mathbf{i}}_1},{\mathbf{\alpha }}_{{\mathbf{i}}_2},\dots ,{\mathbf{\alpha }}_{{\mathbf{i}}_{\mathbf{r}}}$ 线性表出

向量组的秩：

向量 ${\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,\dots ,{\mathbf{\alpha }}_{\mathbf{s}}$ 的极大线性无关组中所含向量个数 $r$ 称为向量组的秩，记为 $r({\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,\dots ,{\mathbf{\alpha }}_{\mathbf{s}})=r$

• $r({\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,\dots ,{\mathbf{\alpha }}_{\mathbf{s}})\le r({\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,\dots ,{\mathbf{\alpha }}_{\mathbf{s}},{\mathbf{\alpha }}_{\mathbf{s}+1})$

3.3.2 有关秩的定理

定理 1：如果维向量组(1) ${\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,\dots ,{\mathbf{\alpha }}_{\mathbf{s}}$ 可由向量组(2) ${\mathbf{\beta }}_1,{\mathbf{\beta }}_2,\dots ,{\mathbf{\beta }}_{\mathbf{t}}$ 线性表出，则 $r(1)<r(2)$

• 推论 1：如果向量组(1)和(2)等价，则 $r(1)=r(2)$

定理 2： $r(A)=A$ 的行秩（矩阵 $A$ 的行向量组的秩） $=A$ 的列秩（矩阵 $A$ 列向量组的秩）

定理 3：经初等变换向量组的秩不变

3.4 Schmidt 正交化、正交矩阵

3.4.1 Schmidt 正交化（正交化规范方法）

设向量组 ${\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,{\mathbf{\alpha }}_3$ 线性无关，其正交规范化方法步骤如下：

令

$$\begin{array}{rl}{\mathbf{\beta }}_1& ={\mathbf{\alpha }}_1\\ {\mathbf{\beta }}_2& ={\mathbf{\alpha }}_2-\frac{({\mathbf{\alpha }}_2,{\mathbf{\beta }}_1)}{({\mathbf{\beta }}_1,{\mathbf{\beta }}_1)}{\mathbf{\beta }}_1\\ {\mathbf{\beta }}_3& ={\mathbf{\alpha }}_3-\frac{({\mathbf{\alpha }}_3,{\mathbf{\beta }}_1)}{({\mathbf{\beta }}_1,{\mathbf{\beta }}_1)}{\mathbf{\beta }}_1-\frac{({\mathbf{\alpha }}_3,{\mathbf{\beta }}_2)}{({\mathbf{\beta }}_2,{\mathbf{\beta }}_2)}{\mathbf{\beta }}_2\end{array}$$

则 ${\mathbf{\beta }}_1,{\mathbf{\beta }}_2,{\mathbf{\beta }}_3$ 两两正交，再将它们单位化，取

$$\begin{array}{r}{\mathbf{\gamma }}_1=\frac{{\mathbf{\beta }}_1}{|{\mathbf{\beta }}_1|},{\mathbf{\gamma }}_2=\frac{{\mathbf{\beta }}_2}{|{\mathbf{\beta }}_2|},{\mathbf{\gamma }}_3=\frac{{\mathbf{\beta }}_3}{|{\mathbf{\beta }}_3|}\end{array}$$

则 ${\mathbf{\gamma }}_1,{\mathbf{\gamma }}_2,{\mathbf{\gamma }}_3$ 是正交规范化向量组（即两两正交且均是单位向量）

3.4.2 正交矩阵

设 $A$ 是 $n$ 阶矩阵，满足 $A{A}^T=A^{T}A=E$，则 $A$ 是正交矩阵

• $A$ 是正交矩阵 $\iff A^T=A^{-1}\iff A$ 的列（行）向量组是正交规范向量组
• 如 $A$ 是正交矩阵，则行列式 $|A|=1$ 或 $-1$

3.5 向量空间

3.5.1 向量空间的概念

向量空间：全体 $n$ 维向量连同向量的加法和数乘运算合称为 $n$ 维向量空间

子空间：

设 $W$ 是 $n$ 维向量的非空集合，如果满足

1. $\forall \mathbf{\alpha },\mathbf{\beta }\in W$ 必有 $\mathbf{\alpha }+\mathbf{\beta }\in W$；
2. $\forall \mathbf{\alpha }\in W$ 及任意实数 $k$ 必有 $k\mathbf{\alpha }\in W$；

称 $W$ 是 $n$ 维向量空间的子空间

基底、维度、坐标：

如果向量空间 $V$ 中的 $m$ 个向量 ${\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,\dots ,{\mathbf{\alpha }}_{\mathbf{m}}$ 满足

1. ${\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,\dots ,{\mathbf{\alpha }}_{\mathbf{m}}$ 线性无关
2. 对于 $V$ 中任意向量 $\mathbf{\beta }$，$\mathbf{\beta }$ 均可由向量组 ${\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,\dots ,{\mathbf{\alpha }}_{\mathbf{m}}$ 线性表出，即

$$x_1{\mathbf{\alpha }}_1+x_2{\mathbf{\alpha }}_2+\cdots +x_m{\mathbf{\alpha }}_m=\mathbf{\beta }$$

则称 ${\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,\dots ,{\mathbf{\alpha }}_{\mathbf{m}}$ 是空间 $V$ 的一个基底（或基）。

• 基中所含向量个数 $m$ 称为向量空间 $V$ 的维度，记作 $dimV=m$，并称 $V$ 是 $m$ 维的向量空间
• 向量 $\mathbf{\beta }$ 的表示系数 $x_1,x_2,\dots ,x_m$ 称为向量 $\mathbf{\beta }$ 在基底 ${\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,\dots ,{\mathbf{\alpha }}_{\mathbf{m}}$ 下的坐标

规范正交基：

设 ${\mathbf{e}}_1,{\mathbf{e}}_2,\dots ,{\mathbf{e}}_{\mathbf{n}}$ 是向量空间的一组基，如果它满足

$$({\mathbf{e}}_{\mathbf{i}},{\mathbf{e}}_{\mathbf{j}})=\{\begin{array}{rl}1& ,i=j\\ 0& ,i≠j\end{array}$$

则称 ${\mathbf{e}}_1,{\mathbf{e}}_2,\dots ,{\mathbf{e}}_{\mathbf{n}}$ 为规范正交基

解空间：

齐次方程组 $A\mathbf{x}=0$ 的解向量的集合 $W$，由解的性质知：若 $\mathbf{\alpha },\mathbf{\beta }$ 是 $A\mathbf{x}=0$ 的解，则 $\mathbf{\alpha }+\mathbf{\beta },k\mathbf{\alpha }$ 仍是 $A\mathbf{x}=0$ 的解，所以 $W$ 是 $n$ 维向量空间的子空间，通常称为解空间

过渡矩阵：

在 $n$ 维向量空间给定两组基

1. ${\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,\dots ,{\mathbf{\alpha }}_{\mathbf{n}}$
2. ${\mathbf{\beta }}_1,{\mathbf{\beta }}_2,\dots ,{\mathbf{\beta }}_{\mathbf{n}}$

若

$$\begin{array}{rl}{\mathbf{\beta }}_1& =c_{11}{\mathbf{\alpha }}_1+c_{21}{\mathbf{\alpha }}_2+\cdots +c_{n1}{\mathbf{\alpha }}_n\\ {\mathbf{\beta }}_2& =c_{12}{\mathbf{\alpha }}_1+c_{22}{\mathbf{\alpha }}_2+\cdots +c_{n2}{\mathbf{\alpha }}_n\\ \dots & =\dots \\ {\mathbf{\beta }}_n& =c_{1n}{\mathbf{\alpha }}_1+c_{2n}{\mathbf{\alpha }}_2+\cdots +c_{nn}{\mathbf{\alpha }}_n\end{array}$$

即 $[{\mathbf{\beta }}_1,{\mathbf{\beta }}_2,\dots ,{\mathbf{\beta }}_{\mathbf{n}}]=[{\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,\dots ,{\mathbf{\alpha }}_{\mathbf{n}}]C$，其中

$$C=\left[\begin{array}{cccc}{c}_{11}& c_{12}& ...& c_{1n}\\ c_{21}& c_{22}& ...& c_{2n}\\ ...& ...& & ...\\ c_{n1}& c_{n2}& ...& c_{nn}\end{array}\right]$$

称为由基 ${\mathbf{\beta }}_1,{\mathbf{\beta }}_2,\dots ,{\mathbf{\beta }}_{\mathbf{n}}$ 到基 ${\mathbf{\beta }}_1,{\mathbf{\beta }}_2,\dots ,{\mathbf{\beta }}_{\mathbf{n}}$ 的过渡矩阵

3.5.2 主要定理

定理 1：如果 ${\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,\dots ,{\mathbf{\alpha }}_{\mathbf{n}}$ 与 ${\mathbf{\beta }}_1,{\mathbf{\beta }}_2,\dots ,{\mathbf{\beta }}_{\mathbf{n}}$ 是 $n$ 维向量空间的两个基底，则由基 ${\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,\dots ,{\mathbf{\alpha }}_{\mathbf{n}}$ 到基 ${\mathbf{\beta }}_1,{\mathbf{\beta }}_2,\dots ,{\mathbf{\beta }}_{\mathbf{n}}$ 的过渡矩阵 $C$ 是可逆矩阵

定理 2：如果向量 $\mathbf{\gamma }$ 在基底 ${\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,\dots ,{\mathbf{\alpha }}_{\mathbf{n}}$ 的坐标为 $x_1,x_2,\dots ,x_n$，向量 $\mathbf{\gamma }$ 在基底 ${\mathbf{\beta }}_1,{\mathbf{\beta }}_2,\dots ,{\mathbf{\beta }}_{\mathbf{n}}$ 的坐标为 $y_1,y_2,\dots ,y_n$，则坐标变换公式为

$$\left[\begin{array}{c}{x}_1\\ x_2\\ \dots \\ x_n\end{array}\right]=C\left[\begin{array}{c}{y}_1\\ y_2\\ \dots \\ y_n\end{array}\right]or\mathbf{x}=C\mathbf{y}$$

其中 $n$ 阶矩阵 $C$ 是由基底 ${\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2,\dots ,{\mathbf{\alpha }}_{\mathbf{n}}$ 到基底 ${\mathbf{\beta }}_1,{\mathbf{\beta }}_2,\dots ,{\mathbf{\beta }}_{\mathbf{n}}$ 的过渡矩阵

定理 3：若 ${\mathbf{e}}_1,{\mathbf{e}}_2,\dots ,{\mathbf{e}}_{\mathbf{n}}$ 是规范正交基，设 $[{\mathbf{\epsilon }}_1,{\mathbf{\epsilon }}_2,\dots ,{\mathbf{\epsilon }}_{\mathbf{n}}]=[{\mathbf{e}}_1,{\mathbf{e}}_2,\dots ,{\mathbf{e}}_{\mathbf{n}}]C$，则 ${\mathbf{\epsilon }}_1,{\mathbf{\epsilon }}_2,\dots ,{\mathbf{\epsilon }}_{\mathbf{n}}$ 是规范正交基的充分必要条件是 $C$ 为正交矩阵