矩阵论——线性空间

1. 线性空间

线性空间是线性代数最基本的概念之一，也是学习矩阵论的重要基础。

1.1 定义

定义1.1：设 $V$ 是一个非空集合 ，它的元素用 $\mathbf{x}，\mathbf{y}，\mathbf{z}$ 等表示，并称之为向量；$K$ 是一个数域 ，它的元素用 $k，l，m$ 等表示。如果 $V$ 满足下列条件：

1. 在 $V$ 中定义一个加法 运算，即当 $\mathbf{x},\mathbf{y}\in V$ 时，有唯一的和 $\mathbf{x}+\mathbf{y}\in V$，且加法运算满足下列性质：
   1）结合律 ：$\mathbf{x}+(\mathbf{y}+\mathbf{z})=(\mathbf{x}+\mathbf{y})+\mathbf{z}$；
   2）交换律 ：$\mathbf{x}+\mathbf{y}=\mathbf{y}+\mathbf{x}$；
   3）存在零元素0，使 $\mathbf{x}+0=\mathbf{x}$；
   4）存在负元素，即对任一向量 $\mathbf{x}\in V$，存在向量 $\mathbf{y}\in V$，使 $\mathbf{x}+\mathbf{y}=0$，则称 $\mathbf{y}$ 为 $\mathbf{x}$ 的负元素，记为一$\mathbf{x}$，于是有 $\mathbf{x}+(-\mathbf{x})=0$ （注：此处的0为零元素）

2. 在 $V$ 中定义 数乘 （数与向量的乘法）运算，即当 $\mathbf{x}\in V$，$k\in K$ 时，有唯一的 $k\mathbf{x}\in V$，且数乘运算满足下列性质：
   5）数因子分配律 ：$k(\mathbf{x}+\mathbf{y})=k\mathbf{x}+k\mathbf{y}$；
   6）分配律 ：$(k+l)\mathbf{x}=k\mathbf{x}+l\mathbf{x}$；
   7）结合律 ：$k(l\mathbf{x})=(kl)\mathbf{x}$；
   8）$1\mathbf{x}=\mathbf{x}$.

则称 $V$ 为数域 $K$ 上的 线性空间 或 向量空间 。

$V$ 中所定义的加法及数乘运算统称为 $V$ 的 线性运算 。须要指出，不管 $V$ 的元素如何，当 $K$ 为实数域 $\mathbf{R}$ 时，则称 $V$ 为实线性空间；当 $K$ 为复数域 $\mathbf{C}$ 时，就称 $V$ 为复线性空间。

线性空间实例：

1. 所有实（或复） $n$ 维向量的集合 ${\mathbf{R}}^n$（或${\mathbf{C}}^n$），对 $n$ 维同量的加法及数乘 $n$ 维向量的运算是封闭的。加法运算还满足交换律与结合律；数乘向量的运算满足分配律与结合律。
2. 在集合 $P_n$ 中，按通常意义定义多项式加法及实数与多项式乘法，则 $P_n$ 对这两种运算是封闭的，因为，如果 $f(t)\in P_n$，$g(t)\in P_n$，则 $f(t)+g(t)\in P_n$；若$k\in \mathbf{R}$，则 $kf(t)\in P_n$ 。易验证对 $P_n$ 的这两种运算，也有如例1中所论的诸算律成立。
3. 常系数二阶齐次线性微分方程 $$y^{\prime \prime }-3y^{\prime }+2y=0$$ 的解的集合 $D$，对于函数加法及数与函数乘法有，若 $y_1,y_2\in D$，则 $y_1+y_2\in D$，当 $k\in \mathbf{R}$ 时，则 $k{y}_1\in D$ 。即 $D$ 关于这两种运算是封闭的，且满足如例1中所论的诸算律。
4. 在所有 $n$ 阶实矩阵的集合 ${\mathbf{R}}^{n\times n}$（或复矩阵的集合 ${\mathbf{C}}^{n\times n}$）中，如果 $\mathbf{A},\mathbf{B}\in {\mathbf{R}}^{n\times n}$（或 ${\mathbf{C}}^{n\times n}$），则 $\mathbf{A}+\mathbf{B}\in {\mathbf{R}}^{n\times n}$（或 ${\mathbf{C}}^{n\times n}$）；如果 $k\in \mathbf{R}$（或 ${\mathbf{C}}^{n\times n}$），则 $k\mathbf{A}\in {\mathbf{R}}^{n\times n}$（或 ${\mathbf{C}}^{n\times n}$）。即集合对于这两种运算是封闭的。加法与数乘矩阵也都满足如例1中所论的诸算律。
   
   

例1中的 ${\mathbf{R}}^n$（${\mathbf{C}}^n$）形成实（复）线性空间；例2至例4中的集合，在其各自的加法和数乘运算的定义下，都形成实线性空间。称例4所给的线性空间为 矩阵空间 。

定理1.1：线性空间 $V$ 有唯一的零元素，任一元素也有唯一的负元素。

定义1.2：线性空间 $V$ 中线性无关向量组所含向量最大个数称为 $V$ 的维数。若 $n$ 是具有这个性质的正整数，则称 $V$ 的维数是 $n$ ，记为 $dimV=n$ 。维数是 $n$ 的线性空间称为数域 $K$ 上的 $n$ 维线性空间，记为 $V^n$ 。

例3中的集合 $D$ 仅有两个线性无关的向量 $y_1=e^x$，$y_2=e^{2x}$ ，且 $D$ 中任一向量 $y$ 都可以由 $y_1$ 和 $y_2$ 线性表示，即有 $y=c_1{e}^x+c_2{e}^{2x}$，故 $dimD=2$，即 $D$ 是 $\mathbf{R}$ 上的2维线性空间。例4中的 ${\mathbf{R}}^{n\times n}$ 是 $\mathbf{R}$ 上的 $n^2$ 维线性空间。

1.2 线性空间的基与坐标

在解析几何中，为了借助于数量运算以实现向量的运算，必须引进向量的坐标。

定义1.3：设 $V$ 是数域 $K$ 上的线性空间，${\mathbf{x}}_1,{\mathbf{x}}_2,\cdots ,{\mathbf{x}}_r(r⩾1)$ 是属于 $V$ 的任意 $r$ 个向量，如果它满足：
（1）${\mathbf{x}}_1,{\mathbf{x}}_2,\cdots ,{\mathbf{x}}_r(r⩾1)$ 线性无关；
（2） $V$ 中任一向量 $\mathbf{x}$ 都是 ${\mathbf{x}}_1,{\mathbf{x}}_2,\cdots ,{\mathbf{x}}_r$ 的线性组合。

则称 ${\mathbf{x}}_1,{\mathbf{x}}_2,\cdots ,{\mathbf{x}}_r$ 为 $V$ 的一个 基 或 基底 ，并称 ${\mathbf{x}}_i(i=1,2,\cdots ,r)$ 为 基向量 。

Noted：

1. 线性空间的维数是其基中所含向量的个数。
2. 齐次线性方程组Ax=0的基础解系中所含的向量，就是其解空间的一个基。
3. 一个线性空间的基并不是唯一的。
   
   

例如：例3中 $e^x$ 与 $e^{2x}$ 就是线性空间 $D$ 的一个基；例4中 ${\mathbf{E}}_{ij}(i,j=1,2,\cdots ,n)$ 就是线性空间 ${\mathbf{R}}^{n\times n}$ 的一个基。

定义1.4：称线性空间 $V^n$ 的一个基 ${\mathbf{x}}_1,{\mathbf{x}}_2,\cdots ,{\mathbf{x}}_n$ 为 $V^n$ 的一个 坐标系 。设向量 $\mathbf{x}\in V^n$，它在该基下的线性表示式为 $$\mathbf{x}={\xi }_1{\mathbf{x}}_1+{\xi }_2{\mathbf{x}}_2+\cdots +{\xi }_n{\mathbf{x}}_n$$ 则称 ${\xi }_1,{\xi }_2,\cdots ,{\xi }_n$ 为 $\mathbf{x}$ 在该坐标系中的 坐标 或 分量 ，记为 $({\xi }_1,{\xi }_2,\cdots ,{\xi }_n{)}^T$ 。

向量 $\mathbf{x}$ 在基 $\mathbf{x}={\xi }_1{\mathbf{x}}_1+{\xi }_2{\mathbf{x}}_2+\cdots +{\xi }_n{\mathbf{x}}_n$ 下的矩阵表示为

$$\mathbf{x}=\left[\begin{array}{cccc}{x}_1& x_2& \cdots & x_n\end{array}\right]\left[\begin{array}{c}{\xi }_1\\ {\xi }_2\\ ⋮\\ {\xi }_n\end{array}\right]$$

Noted： 在不同的坐标系（或基）中，同一向量的坐标一般是不同的。

定理1.2：设 ${\mathbf{x}}_1,{\mathbf{x}}_2,\cdots ,{\mathbf{x}}_n$ 是 $V^n$ 的一个基，$\mathbf{x}\in V^n$ ，则 $\mathbf{x}$ 可以唯一地表示成 ${\mathbf{x}}_1,{\mathbf{x}}_2,\cdots ,{\mathbf{x}}_n$ 的线性组合。

例：复数域 $\mathbf{C}$ 是其自身上的线性空间，且 $dimC=1$，数 1 就是它的基；如果把 $\mathbf{C}$ 看做是实数域 $\mathbf{R}$ 上的线性空间，则 $dimC=2$，数 1 与 j 就是一个基。此例说明，维数与所考虑的数域有关。

1.3 基变换与坐标变换

在 $V^n$ 中，任意 $n$ 个线性无关的向量都可取作它的基或坐标系。但对不同基或坐标系，同一个向量的坐标一般是不同的。现在讨论当基改变时，向量的坐标如何变化?

1.3.1 基变换

设 ${\mathbf{x}}_1,{\mathbf{x}}_2,\cdots ,{\mathbf{x}}_n$ 是 $V^n$ 的旧基，而 ${\mathbf{y}}_1,{\mathbf{y}}_2,\cdots ,{\mathbf{y}}_n$ 是 $V^n$ 的新基，那么有

$$\{\begin{array}{c}{\mathbf{y}}_1=c_{11}{\mathbf{x}}_1+c_{21}{\mathbf{x}}_2+\cdots +c_{n1}{\mathbf{x}}_n\\ {\mathbf{y}}_2=c_{12}{\mathbf{x}}_1+c_{22}{\mathbf{x}}_2+\cdots +c_{n2}{\mathbf{x}}_n\\ ⋮\\ {\mathbf{y}}_n=c_{1n}{\mathbf{x}}_1+c_{2n}{\mathbf{x}}_2+\cdots +c_{nn}{\mathbf{x}}_n\end{array}$$

或者形式地写成 （基变换公式）

$$({\mathbf{y}}_1,{\mathbf{y}}_2,\cdots ,{\mathbf{y}}_n)=({\mathbf{x}}_1,{\mathbf{x}}_2,\cdots ,{\mathbf{x}}_n)\mathbf{C}$$

其中，矩阵

$$\mathbf{C}=\left[\begin{array}{cccc}{c}_{11}& c_{12}& \cdots & c_{1n}\\ c_{21}& c_{22}& \cdots & c_{2n}\\ ⋮& ⋮& & ⋮\\ c_{n1}& c_{n2}& \cdots & c_{nn}\end{array}\right]$$

称为由旧基改变为新基的 过渡矩阵。

1.3.2 坐标变换

设 $\mathbf{x}\in V^n$ 在上面所述旧新旧基下的坐标依次是 $({\xi }_1,{\xi }_2,\cdots ,{\xi }_n{)}^T$ 与 $({\eta }_1,{\eta }_2,\cdots ,{\eta }_n{)}^T$ ，即有

$$\mathbf{x}={\xi }_1{\mathbf{x}}_1+{\xi }_2{\mathbf{x}}_2+\cdots +{\xi }_n{\mathbf{x}}_n={\eta }_1{\mathbf{y}}_1+{\eta }_2{\mathbf{y}}_2+\cdots +{\eta }_n{\mathbf{y}}_n$$

采用矩阵表示，则有

$$\mathbf{x}=\left[\begin{array}{cccc}{x}_1& x_2& \cdots & x_n\end{array}\right]\left[\begin{array}{c}{\xi }_1\\ {\xi }_2\\ ⋮\\ {\xi }_n\end{array}\right]=\left[\begin{array}{cccc}{y}_1& y_2& \cdots & y_n\end{array}\right]\left[\begin{array}{c}{\eta }_1\\ {\eta }_2\\ ⋮\\ {\eta }_n\end{array}\right]=\left[\begin{array}{cccc}{x}_1& x_2& \cdots & x_n\end{array}\right]\mathbf{C}\left[\begin{array}{c}{\eta }_1\\ {\eta }_2\\ ⋮\\ {\eta }_n\end{array}\right]$$

由于基向量是线性无关的，因此有

$$\left[\begin{array}{c}{\xi }_1\\ {\xi }_2\\ ⋮\\ {\xi }_n\end{array}\right]=\mathbf{C}\left[\begin{array}{c}{\eta }_1\\ {\eta }_2\\ ⋮\\ {\eta }_n\end{array}\right]$$

或者

$$\left[\begin{array}{c}{\eta }_1\\ {\eta }_2\\ ⋮\\ {\eta }_n\end{array}\right]={\mathbf{C}}^{-1}\left[\begin{array}{c}{\xi }_1\\ {\xi }_2\\ ⋮\\ {\xi }_n\end{array}\right]$$

上两式给出了在基变换式下向量坐标的变换公式。

2. 线性子空间

2.1 定义

设 $V_1$ 是数域 $K$ 上的线性空间 $V$ 的一个非空子集合，且对 $V$ 已有的线性运算满足以下条件：

1. 如果 $\mathbf{x}，\mathbf{y}\in V_1$ ，则 $\mathbf{x}+\mathbf{y}\in V_1$ ；
2. 如果 $\mathbf{x}\in V_1$ ，$k\in K$ ，则 $k\mathbf{x}\in V_1$ 。

则称 $V_1$ 为 $V$ 的 线性子空间 或 子空间 。

Noted：

1. 线性子空间 $V_1$ 也是线性空间。因为 $V_1$ 是 $V$ 的子集合，所以 $V_1$ 中的向量不仅对线性空间 $V$ 已定义的线性运算封闭，而且还满足相应的8条运算律。
2. 每个非零线性空间至少有两个子空间，一个是它本身，另一个是仅由零向量所构成的子集合，后者称为 零子空间 。
3. 由于零子空间不含线性无关的向量，因此它没有基，规定其维数为零。
4. 线性子空间中不可能比整个线性空间中有更数目的线性无关的向量，所以，任何一个线性子空间 $V_1$ 的维数不大于整个线性空间 $V$ 的维数，即有 $dim{V}_1\le dimV$ 。

2.2 线性子空间的生成

定义1：设 ${\mathbf{x}}_1,{\mathbf{x}}_2,\cdots ,{\mathbf{x}}_m$ 是数域 $K$ 上的线性空间 $V$ 的一组向量，其所有可能的线性组合的集合
V 1 = { k 1 x 1 + k 2 x 2 + ⋯ + k m x m }      ( k i ∈ K , i = 1 , 2 , ⋯   , m ) V_{1}=\left \{ k_{1}\boldsymbol{x}_{1}+k_{2}\boldsymbol{x}_{2}+\cdots +k_{m}\boldsymbol{x}_{m} \right \}\; \; \left ( k_{i}\in K,i=1,2,\cdots ,m \right ) V1​={k1​x1​+k2​x2​+⋯+km​xm​}(ki​∈K,i=1,2,⋯,m)
是非空的，且 $V_1$ 对于 $V$ 的线性运算是封闭的，因而 $V_1$ 是 $V$ 的一个线性子空间。这个子空间称为由 ${\mathbf{x}}_1,{\mathbf{x}}_2,\cdots ,{\mathbf{x}}_m$ 生成（或张成）的子空间，记为
L ( x 1 , x 2 , ⋯   , x m ) = { k 1 x 1 + k 2 x 2 + ⋯ + k m x m } L\left ( \boldsymbol{x}_{1},\boldsymbol{x}_{2},\cdots ,\boldsymbol{x}_{m} \right )=\left \{ k_{1}\boldsymbol{x}_{1}+k_{2}\boldsymbol{x}_{2}+\cdots +k_{m}\boldsymbol{x}_{m}\right \} L(x1​,x2​,⋯,xm​)={k1​x1​+k2​x2​+⋯+km​xm​}

定义2：如果 ${\mathbf{x}}_1,{\mathbf{x}}_2,\cdots ,{\mathbf{x}}_m$ 是 $V_1$ 的一个基，那么有
$$V_1=L\left({\mathbf{x}}_1,{\mathbf{x}}_2,\cdots ,{\mathbf{x}}_m\right)$$
特别地，零子空间就是由零元素生成的子空间 $L(0)$ 。

2.3 子空间的交与和

2.3.1 交空间

定义：设 $V_1$，$V_2$ 是数域 $K$ 上的线性空间 $V$ 的子空间，则所有满足 $\mathbf{x}\in V_1$ 且 $\mathbf{x}\in V_2$ 的这样的元素的集合称为 $V_1$ 与 $V_2$ 的 交 ，记为 $V_1\cap V_2$ ，即
V 1 ∩ V 2 = { x ∣ x ∈ V 1 且 a ∈ V 2 } V_{1}\cap V_{2}=\left \{ \boldsymbol{x} | \boldsymbol{x}\in V_{1} 且 a\in V_{2}\right \} V1​∩V2​={x∣x∈V1​且a∈V2​}

定理：如果 $V_1$，$V_2$ 是数域 $K$ 上的线性空间 $V$ 的两个子空间，那么它们的交 $V_1\cap V_2$ 也是 $V$ 的子空间。

子空间的交满足交换律和结合律：
$$V_1\cap V_2=V_2\cap V_1$$

$$(V_1\cap V_2)\cap V_3=V_1\cap (V_1\cap V_3)$$

2.3.2 和空间

定义：设 $V_1$，$V_2$ 是数域 $K$ 上的线性空间 $V$ 的子空间，且 $\mathbf{x}\in V_1$ ，$\mathbf{y}\in V_2$ ，则所有 $\mathbf{x}+\mathbf{y}$ 这样的元素的集合称为 $V_1$ 与 $V_2$ 的 和 ，记为 $V_1+V_2$ ，即
V 1 + V 2 = { z ∣ z = x + y , x ∈ V 1 , y ∈ V 2 } V_{1}+V_{2}=\left \{ \boldsymbol{z} | \boldsymbol{z} = \boldsymbol{x} + \boldsymbol{y}, \boldsymbol{x} \in V_{1}, \boldsymbol{y}\in V_{2} \right \} V1​+V2​={z∣z=x+y,x∈V1​,y∈V2​}

定理：如果 $V_1$，$V_2$ 是数域 $K$ 上的线性空间 $V$ 的子空间，那么它们的和 $V_1+V_2$ 也是 $V$ 的子空间。

子空间的和满足交换律和结合律：
$$V_1+V_2=V_2+V_1$$

$$(V_1+V_2)+V_3=V_1+(V_1+V_3)$$

例如，在线性空间 ${\mathbf{R}}^3$ 中，$V_1$ 表示过原点的直线 $l_1$ 上所有向量形成的子空间；$V_2$ 表示另一条过原点的直线 $l_2$ 上所有向量形成的子空间。显然 $V_1\cap V_2$ 是由 $l_1$ 与 $l_2$ 交点（原点）形成的零子空间；$V_1+V_2$ 是在由 $l_1$ 与 $l_2$ 所决定的平面上全体向量形成的子空间。

2.3.2 维数

定理：（维数公式）如果 $V_1$，$V_2$ 是数域 $K$ 上的线性空间 $V$ 的两个子空间，那么有下面公式
$$dim{V}_1+dim{V}_2=dim(V_1+V_2)+dim(V_1\cap V_2)$$