线性代数-向量空间

向量空间

向量空间

向量空间的严格定义：

设 $V$ 为一向量组，如果 $V$ 非空，且 $V$ 对于向量的加法以及数乘两种运算封闭，那么就称 $V$ 为 向量空间。
所谓封闭，是指在 $V$ 中向量进行数乘和加减，其结果依然在 $V$ 中。具体的说，就是：

• 若 $\vec{a}\in V,\vec{b}\in V,$ 则 $\vec{a}+\vec{b}\in V$
• 若 $\vec{a}\in V,k\in \mathbb{R},$ 则 $k\vec{a}\in V$

所有 $n$ 维向量构成的集合是一个 向量空间 ${\mathbb{R}}^n$:
R n = { ( x 1 , x 2 , . . . , x n ) ∣ n ∈ N , x n ∈ R } \mathbb{R}^n = \{(x_1,x_2,...,x_n) | n \in \mathbb{N}, x_n \in \mathbb{R}\} Rn={(x1​,x2​,...,xn​)∣n∈N,xn​∈R}

张成空间

某 向量组 A = { v 1 ⃗ , v 2 ⃗ , . . . , v p ⃗ } A = \{\vec{v_1}, \vec{v_2}, ..., \vec{v_p}\} A={v1​ ​,v2​ ​,...,vp​ ​}, 其所有 线性组合 构成的集合为 向量空间, 也称为向量组 $A$ 的 张成空间, 记为 $span(\overrightarrow{v_1},\overrightarrow{v_2},...,\overrightarrow{v_p})$, 即:
V = s p a n ( v 1 ⃗ , v 2 ⃗ , . . . , v p ⃗ ) = { k 1 v 1 ⃗ + k 2 v 2 ⃗ + . . . + k p v p ⃗ , k 1 , 2 , . . . , p ∈ R } V = span(\vec{v_1}, \vec{v_2}, ..., \vec{v_p}) = \{k_1\vec{v_1} + k_2\vec{v_2} + ... + k_p\vec{v_p}, k_{1,2,...,p} \in \mathbb{R}\} V=span(v1​ ​,v2​ ​,...,vp​ ​)={k1​v1​ ​+k2​v2​ ​+...+kp​vp​ ​,k1,2,...,p​∈R}
也称 $span(\overrightarrow{v_1},\overrightarrow{v_2},...,\overrightarrow{v_p})$ 为向量组 $A$ 所张成

等价向量组

设有两个 向量组 A = { a 1 ⃗ , a 2 ⃗ , . . . , a m ⃗ } A = \{\vec{a_1},\vec{a_2},...,\vec{a_m}\} A={a1​ ​,a2​ ​,...,am​ ​} 及 B = { b 1 ⃗ , b 2 ⃗ , . . . , b n ⃗ } B = \{\vec{b_1},\vec{b_2},...,\vec{b_n}\} B={b1​ ​,b2​ ​,...,bn​ ​}, 若 $B$ 组中的每个向量都能由向量组 $A$ 线性表示, 则称向量组 $B$ 能由向量组 $A$ 线性表示.
若向量组 $A$ 与向量组 $B$ 能互相线性表示, 则称这两个向量组 等价, 也可以说 $A$ 和 $B$ 是 等价向量组

等价向量组 的 张成空间 是相等的

假设有两个向量组
A = { a 1 ⃗ , a 2 ⃗ , . . . , a m ⃗ } , B = { b 1 ⃗ , b 2 ⃗ , . . . , b n ⃗ } A = \{\vec{a_1},\vec{a_2},...,\vec{a_m}\}, B = \{\vec{b_1},\vec{b_2},...,\vec{b_n}\} A={a1​ ​,a2​ ​,...,am​ ​},B={b1​ ​,b2​ ​,...,bn​ ​}
则
$$A和B等价⟺span(A)=span(B)$$

最大无关组

设有 向量组 $A$, 如果在 $A$ 中能选出 $r$ 个向量 $\overrightarrow{a_1},\overrightarrow{a_2},...,\overrightarrow{a_r}$ 满足:

• 向量组 A 0 = { a 1 ⃗ , a 2 ⃗ , . . . , a r ⃗ } A_0 = \{\vec{a_1},\vec{a_2},...,\vec{a_r}\} A0​={a1​ ​,a2​ ​,...,ar​ ​} 线性无关
• 向量组 $A$ 中任意 $r+1$ 个向量 (如果 $A$ 中有 $r+1$ 个向量的话) 都 线性相关, 那么成向量组 $A_0$ 是向量组 $A$ 的一个 最大线性无关组, 简称 最大无关组

• 包含零向量的向量组一定不是 最大无关组

向量组的秩

假设 向量组 $A$ 的 最大无关组 为:
A 0 = { a 1 ⃗ , a 2 ⃗ , . . . , a r ⃗ } A_0 = \{\vec{a_1},\vec{a_2},...,\vec{a_r}\} A0​={a1​ ​,a2​ ​,...,ar​ ​}
$A_0$ 的向量个数 $r$ 称为向量组 $A$ 的 秩, 记做 $rank(A)$, 有时也记做 $r(A)$

• 不变的 秩 反应了向量组的 复杂程度.
• 只包含零向量的向量组的 秩 为 0

向量空间的基

$V$ 为 向量空间, 如果其中的某向量组:
A = { a 1 ⃗ , a 2 ⃗ , . . . , a r ⃗ } A = \{\vec{a_1},\vec{a_2},...,\vec{a_r}\} A={a1​ ​,a2​ ​,...,ar​ ​}
是 $V$ 的 最大无关组, 那么向量组 $A$ 被称为向量空间 $V$ 的一个 基

• 只包含零向量的向量空间 $\left\{\left(\begin{array}{c}0\\ 0\end{array}\right)\right\}$ 该向量空间没有 基

自然基, 指由某一维为 1 其余维都是 0 的向量组成的一组基, 且该向量组是线性无关的.
所有的 ${\mathbb{R}}^n$ 都有自然基:
$$\overrightarrow{e_1}=\left(\begin{array}{c}1\\ 0\\ ⋮\\ 0\end{array}\right),\overrightarrow{e_2}=\left(\begin{array}{c}0\\ 1\\ ⋮\\ 0\end{array}\right),\cdots ,\overrightarrow{e_n}=\left(\begin{array}{c}0\\ 0\\ ⋮\\ 1\end{array}\right)$$

基与坐标

在 向量空间 $V$ 中取一个 基 { a 1 ⃗ , a 2 ⃗ , . . . , a r ⃗ } \{\vec{a_1},\vec{a_2},...,\vec{a_r}\} {a1​ ​,a2​ ​,...,ar​ ​}, 那么 $V$ 中的某个向量 $\vec{x}$ 可唯一地表示为:
$$\vec{x}=k_1\overrightarrow{a_1}+k_2\overrightarrow{a_2}+\cdots +k_r\overrightarrow{a_r}$$
其中, $(k_1,k_2,...,k_r)$ 称为向量 $\vec{x}$ 在基 { a 1 ⃗ , a 2 ⃗ , . . . , a r ⃗ } \{\vec{a_1},\vec{a_2},...,\vec{a_r}\} {a1​ ​,a2​ ​,...,ar​ ​} 中的 坐标. 如果将基 { a 1 ⃗ , a 2 ⃗ , . . . , a r ⃗ } \{\vec{a_1},\vec{a_2},...,\vec{a_r}\} {a1​ ​,a2​ ​,...,ar​ ​} 简称为基 $a$ 的话, 那么 $\vec{x}$ 还可以写作:
$$\vec{x}={\left(\begin{array}{c}{k}_1\\ k_2\\ ⋮\\ k_r\end{array}\right)}_a$$
其中, 下标 $a$ 指明该坐标系的基

向量空间的维度

假设向量空间 $V$ 的 基:
A = { a 1 ⃗ , a 2 ⃗ , . . . , a r ⃗ } A = \{\vec{a_1},\vec{a_2},...,\vec{a_r}\} A={a1​ ​,a2​ ​,...,ar​ ​}
则 $A$ 的 秩 $r$ 称为该 向量空间的维度, 或者称 $V$ 为 $r$ 维向量空间

• $n$ 维向量可以张成 $0n$ 维的向量空间

点积(数量积)

欧几里得空间

$$欧几里得空间=向量空间+长度+角度$$

长度

根据勾股定理可得

$$||\vec{a}||=\sqrt{a_1^2+a_2^2}$$

角度

定义: 在 ${\mathbb{R}}^2$ 中, 两个向量间的夹角 $\theta$, 该夹角的取值范围在 $0\le \theta \le \pi$
注意到 $\cos x$ 函数在 $0\le \theta \le \pi$ 这个范围是单调的.

根据欧氏集合中的余弦定理可以得到如下 结论

$$\cos \theta =\frac{a_1{b}_1+a_2{b}_2}{||\vec{a}||||\vec{b}||}$$

证明:
根据欧氏几何中余弦定理, 我们可以得到:

$${\overrightarrow{AB}}^2={\overrightarrow{OA}}^2+{\overrightarrow{OB}}^2-2\overrightarrow{OA}\cdot \overrightarrow{OB}\cos \theta$$

上式可以通过向量来计算:

$$||\vec{a}-\vec{b}|{|}^2=||\vec{a}|{|}^2+||\vec{b}|{|}^2-2||\vec{a}||||\vec{b}||\cos \theta$$

新的运算

假设定义一个新的运算方式, 将之称为向量的 点积

$$\vec{a}\cdot \vec{b}=(a_1,a_2)\cdot (b_1,b_2)=a_1{b}_1+a_2{b}_2$$

那么向量空间 ${\mathbb{R}}^2$ 中的长度和角度的计算就可以通过 点积 来完成:

• 长度

$$||\vec{a}||=\sqrt{a_1^2+a_2^2}=\sqrt{a_1{a}_1+a_2{a}_2}=\sqrt{\vec{a}\cdot \vec{a}}$$

• 角度

$$\cos \theta =\frac{a_1{b}_1+a_2{b}_2}{||\vec{a}||||\vec{b}||}=\frac{\vec{a}\cdot \vec{b}}{||\vec{a}||||\vec{b}||}$$

点积的定义

向量 $\vec{x}=\left(\begin{array}{c}{x}_1\\ x_2\\ ⋮\\ x_n\end{array}\right)$ 和 $\vec{y}=\left(\begin{array}{c}{y}_1\\ y_2\\ ⋮\\ y_n\end{array}\right)$ 的 点积 (dot product), 定义为:
$$\vec{x}\cdot \vec{y}=x_1{y}_1+\cdots +x_n{y}_n=\sum _{i=1}^n{x}_i{y}_i$$
点积还可以称为 数量积 或者 标量积, 这是因为两个向量通过点积运算之后的结果是数量(标量).

长度/角度与自然基

通过点积计算长度/角度时, 向量的坐标必须在 自然基 下.

点积的性质

点积具有以下运算性质:

• 交换律: $\vec{a}\cdot \vec{b}=\vec{b}\cdot \vec{a}$
• 数乘结合律: $(k\vec{a})\cdot \vec{b}=k(\vec{b}\cdot \vec{a})$
• 分配律: $(\vec{a}+\vec{b})\cdot \vec{c}=\vec{a}\cdot \vec{c}+\vec{b}\cdot \vec{c}$

以下对 数乘结合律 和 分配律 的证明太惊艳了, 必须记录下来

• 数乘结合律

根据 点积 可推出

$$\cos \theta =\frac{\vec{a}\cdot \vec{b}}{||\vec{a}||||\vec{b}||}⟹\vec{a}\cdot \vec{b}=||\vec{a}||||\vec{b}||\cos \theta$$

其中 $||\vec{b}||\cos \theta$ 可以看做 $\vec{b}$ 在 \vec{a} 上的投影

所以, 可以把 $\vec{a}\cdot \vec{b}$ 看做矩形 $A$ 的面积:

自然, 其中一条边放大 $k$ 倍, 则面积增大 $k$ 倍

这样就得到了数乘结合律:

$$(k\vec{a})\cdot \vec{b}=k(\vec{b}\cdot \vec{a})$$

• 分配律

欧氏距离和余弦距离

• 欧氏距离 表示两个向量间的距离远近;
• 余弦距离 表示两个向量间的关系远近;

正交 是线性代数的概念, 是垂直这一直观概念的推广, 若两向量的内积为 0, 则称他们是正价的.

小结

在该章中有很多概念很容易混淆, 他们是:

• 向量空间: 非空, 由若干向量组成(向量组), 这些向量满足加法/数乘封闭
• 张成空间: 由 向量组 进行所有 线性组合 后得到的 向量空间
• 最大无关组: 从 向量组 中选取满足 线性无关 的向量, 且这些向量可以 线性表示 向量组中其他的任意向量
• 秩: 最大无关组的个数
• 基: 就是最大无关组. 引入次概念主要是为了后面的坐标概念