线性代数学习笔记4-6：矩阵的四个子空间（零空间、列空间、行空间、左零空间）、初等行变换、测验题

与矩阵有关的四个子空间

掌握矩阵的四个子空间，就掌握了线性代数的半壁江山

之前说过，只要掌握①空间的一组基②空间的维数（基向量的个数），就获得了空间的所有信息

对于一个矩阵${\mathbf{A}}_{m\times n}$

• 列空间Column Space / 值域Range，$C(\mathbf{A})$：矩阵列向量张成的空间
  一定是${\mathbf{R}}^m$的子空间（因为其向量坐标有$m$个分量）
• 零空间Null Space / 核，$N(\mathbf{A})$：$\mathbf{A}\mathbf{x}=0$的所有可能解向量集合
  一定是${\mathbf{R}}^n$的子空间
• 行空间Row Space，$C({\mathbf{A}}^T)$：矩阵行向量张成的空间
  一定是${\mathbf{R}}^n$的子空间
• 左零空间Left Null Space，$N({\mathbf{A}}^T)$：${\mathbf{A}}^T\mathbf{x}=0$的所有可能解向量集合
  一定是${\mathbf{R}}^m$的子空间

四个子空间的关系

关于列空间和零空间的前置知识：

• 记矩阵的秩$Rank({\mathbf{A}}_{m\times n})=r$
• 对于方程$\mathbf{A}\mathbf{x}=0$的系数矩阵$\mathbf{A}$，消元得到简化行阶梯型$\mathbf{R}$，其中有$r$个主元列，剩下的自由列都是主元列的线性组合
• 进而有$n-r$个自由变量，任意给定这些自由变量，可以得到$n-r$个线性无关的特解，它们就是基础解系/零空间的一组基

先给出四个子空间的维数和基的结论：

• 列空间$C(\mathbf{A})$：维数$r$（主元/主变量个数）
  基：取自$\mathbf{A}$中的列向量，具体位置对应简化行阶梯型$\mathbf{R}$中的$r$个主元列所在位置
  （注意并不是$\mathbf{R}$中的列向量，因为初等行变换后列空间已经改变，但由于相关性不变，$\mathbf{R}$仍可用于指示$\mathbf{A}$中列向量的最大无关组）

注意，做初等行变换，行空间和零空间不变、列空间和左零空间可能会改变、但列向量的线性相关性不变（例如消元导致矩阵最下方出现全0行，则列空间变小）

• 问题：消元已经改变了列空间，为什么主元列（注意，不是消元后的主元所在列，而是消元前对应位置的那些原始列）还能作为矩阵A的列空间的一组基？
  首先，初等行变换不改变行空间，也就不改变秩r（秩是行/ 列向量中最大的线性无关向量组的向量数），那么列空间的维数也是r；
  其次，初等行变换不改变秩，就是说初等行变换不会改变列向量的线性相关性，因此消元后无关的那r个列，对应的消元前的无关的r个主元列，可以作为列空间的一组基
  详见：MIT—线性代数笔记10 四个基本子空间

• 零空间$N(\mathbf{A})$：维数$n-r$
  基：在高斯消元解方程时，给定$n-r$个自由变量的不同取值，得到的$n-r$个线性无关的特解
• 行空间$C({\mathbf{A}}^T)$：维数$r$（重要结论：行空间和列空间维数相同，后面给出证明）
  基：①对${\mathbf{A}}^T$求列空间的基（对${\mathbf{A}}^T$再做行变换，麻烦）②简化行阶梯型$\mathbf{R}$中的$r$个非零行

可见，列空间和行空间都可通过简化行阶梯型$\mathbf{R}$来求出，实际上这就是求满秩分解（求出行/列空间的一组基）的过程，其中，$\mathbf{R}$的要求是：每行的非零首元为1（该元素为主元），每个主元所在的列中除了主元之外全为0元素

• 左零空间$N({\mathbf{A}}^T)$：维数$m-r$
  基：求行变换$\mathbf{E}$使得$\mathbf{EA}=\mathbf{R}$，则导致$\mathbf{R}$中出现全0行的那些$\mathbf{E}$的行向量，就是左零空间的基

可见，这里有一种对偶关系：
零空间和行空间是${\mathbf{R}}^n$的子空间，两者维数相加为$n$；
左零空间和列空间是${\mathbf{R}}^m$的子空间，两者维数相加为$m$；

并且，行空间和零空间正交。理解：
可以简单想象，一个非零向量$\left[\begin{array}{ccc}1& 2& 3\end{array}\right]$不可能同时出现住行空间和零空间中，因为对于$\mathbf{A}\mathbf{x}=0$，如果$\mathbf{A}$的某行是$\left[\begin{array}{ccc}1& 2& 3\end{array}\right]$，而$\mathbf{x}={\left[\begin{array}{ccc}1& 2& 3\end{array}\right]}^T$，矩阵向量相乘肯定无法得到0

列空间和零空间的基的推导，在前置知识中已经给出

下面给出行空间和左零空间的推导

行空间的基

求解行空间的基：①对${\mathbf{A}}^T$求列空间的基（对${\mathbf{A}}^T$再做行变换，麻烦）②简化行阶梯型$\mathbf{R}$中的$r$个非零行

更简单的方法是第②个，原理是：
$\mathbf{A}$消元到$\mathbf{R}$，一般过程是
$$\mathbf{A}=\left[\begin{array}{llll}1& 2& 3& 1\\ 1& 1& 2& 1\\ 1& 2& 3& 1\end{array}\right]\to \dots \to \left[\begin{array}{llll}1& 0& 1& 1\\ 0& 1& 1& 0\\ 0& 0& 0& 0\end{array}\right]=\left[\begin{array}{cc}I& F\\ 0& 0\end{array}\right]=\mathbf{R}$$

前面说过，使用初等行变换不会改变矩阵的行空间，因为$\mathbf{A}$的行向量，就是$\mathbf{R}$的行向量的线性组合（初等行变换）

因此，简化行阶梯型$\mathbf{R}$的$r$个非零行的行向量，是$\mathbf{A}$的行空间 最佳的/最简化的 基（简化行阶梯型$\mathbf{R}$通过最简的形式表现出了行空间，就好比单位矩阵是$R^n$空间最佳的基）；
并且$\mathbf{A}$的行空间的维数=$\mathbf{R}$的非零行个数（$r$个）

注意，$\mathbf{R}$的$r$个非零行行向量是$\mathbf{A}$的行空间的一组基；
但$\mathbf{A}$对应位置的行向量，则不一定是行空间的一组基；

左零空间的基

求解左零空间的基：求行变换$\mathbf{E}$使得$\mathbf{EA}=\mathbf{R}$，则导致$\mathbf{R}$中出现全0行的那些$\mathbf{E}$的行向量，就是左零空间的基

原理：

前置知识：之前说过，矩阵A左乘B，相当于对B做行变换，而A右乘B，相当于对B做列变换；

求零空间的基，就是求$\mathbf{A}\mathbf{x}=0$的基础解系（一组无关列向量特解）
求左零空间，就是求${\mathbf{A}}^T\mathbf{x}=0$的基础解系（一组无关列向量特解），或者求${\mathbf{x}}^T\mathbf{A}=0^T$的一组无关行向量特解，这就是“左零空间”的名称由来

问题变为求${\mathbf{x}}^T\mathbf{A}=0^T$的一组无关行向量特解，就是要寻找一个行向量${\mathbf{x}}^T$使得$\mathbf{A}$的行向量的线性组合为$0^T$
这里再次联系到消元后的简化行阶梯型的内容，考虑到：
$$\mathbf{R}=\left[\begin{array}{cc}I& F\\ 0& 0\end{array}\right]$$
$\mathbf{R}$中出现了全0行！这说明，行向量${\mathbf{x}}^T$就蕴含在$\mathbf{A}$到$\mathbf{R}$的消元（行变换）过程中

因此，我们把消元过程表示为$\left[\begin{array}{cc}\mathbf{A}& \mathbf{I}\end{array}\right]\to \left[\begin{array}{cc}\mathbf{R}& \mathbf{E}\end{array}\right]$，其中消元的过程就是$\mathbf{EA}=\mathbf{R}$，消元变换的矩阵为$\mathbf{E}$
而$\mathbf{R}$中的全0行，正是$\mathbf{E}$的某个行向量“指挥”$\mathbf{A}$做行变换得到的

故：导致$\mathbf{R}$中出现全0行的那些$\mathbf{E}$的行向量，就是左零空间的基，并且由于$\mathbf{R}$有$r$个非零行，故有$m-r$个全0行，这也就是左零空间的维数

小结：行空间和左零空间的求解

求解$\mathbf{A}$的行空间和左零空间的求解时

• 我们可以转而求解${\mathbf{A}}^T$的列空间和零空间，然而这需要我们重复两次消元求化简行阶梯型的过程
• $\mathbf{A}$消元（行变换）得到化简行阶梯型$\mathbf{R}$的过程中同样给出了答案：
  $\mathbf{R}$给出了行空间：$\mathbf{R}$的非零行的行向量 就是$\mathbf{A}$的行空间的基
  $\mathbf{A}$到$\mathbf{R}$的过程给出了左零空间：$\mathbf{R}$的全0行相对应的$\mathbf{E}$中的行向量 就是$\mathbf{A}$的左零空间的基，其中$\mathbf{E}$为消元（行变换）的矩阵

测验题

${\mathbf{R}}^4$空间中的4 x 1的列向量$\mathbf{v}$，其4个分量为$v_1,v_2,v_3,v_4$
所有满足$v_1+v_2+v_3+v_4=0$的向量$\mathbf{v}$构成了一个向量空间$\mathbf{V}$，求其维数

思路1：4个分量满足“线性相关”，因此只需要3个基向量，就可以张成整个向量空间$\mathbf{V}$，故$\mathbf{V}$的维数为3

思路2：$v_1+v_2+v_3+v_4=0$写为方程$\left[\begin{array}{cccc}1& 1& 1& 1\end{array}\right]\mathbf{v}=0$，其中系数矩阵$\mathbf{A}$为$\left[\begin{array}{cccc}1& 1& 1& 1\end{array}\right]$
问题转化为：求系数矩阵$\mathbf{A}$的零空间维数
消元后，$\mathbf{A}$本身就是行简化阶梯型，有一个主元，$Rank(\mathbf{A})=1$，有三个自由变量，因此零空间的维数为$n-r=4-1=3$，零空间的基向量就是给定三组自由变量的值，得到的三个特解

扩展：进一步考察${\mathbf{A}}_{1\times 4}=\left[\begin{array}{cccc}1& 1& 1& 1\end{array}\right]$的四个子空间（$Rank(\mathbf{A})=1$）

• 列空间：是${\mathbf{R}}^1$的子空间（就是${\mathbf{R}}^1$），基：主元列$\left[\begin{array}{c}1\end{array}\right]$，维数为r=1
• 零空间：是${\mathbf{R}}^4$的子空间，基：给定三个自由变量得到的三个无关特解，维数为n-r=3
• 行空间：是${\mathbf{R}}^4$的子空间，基：最简阶梯型（就是$\mathbf{A}$）中的非零行$\left[\begin{array}{cccc}1& 1& 1& 1\end{array}\right]$，维数为r=1
• 左零空间：是${\mathbf{R}}^1$的子空间（就是一个点0），基：最简阶梯型中全0行对应的$\mathbf{E}$的行（不存在基/基为空集)，维数m-r=0

已知方程$\mathbf{A}\mathbf{x}=\left[\begin{array}{c}2\\ 4\\ 2\end{array}\right]$的通解为$\mathbf{x}=\left[\begin{array}{c}2\\ 0\\ 0\end{array}\right]+c_1\left[\begin{array}{c}1\\ 1\\ 0\end{array}\right]+c_2\left[\begin{array}{c}0\\ 0\\ 1\end{array}\right]$，求（1）$\mathbf{A}$的行空间维数（2）$\mathbf{A}$的值

（1）$\mathbf{A}$的行空间维数=列空间维数=秩
从方程可看出$\mathbf{A}$为3 x 3矩阵，而通解中有2个自由变量，则说明零空间维数为n-r=2，由此得到秩r=1
（2）带入特解$\mathbf{A}\left[\begin{array}{c}2\\ 0\\ 0\end{array}\right]=\left[\begin{array}{c}2\\ 4\\ 2\end{array}\right]$，得到$\mathbf{A}=\left[\begin{array}{ccc}1& \cdots & \cdots \\ 2& \cdots & \cdots \\ 1& \cdots & \cdots \end{array}\right]$

根据题目中给出的零空间的基础解系，得到$\mathbf{A}\left[\begin{array}{c}1\\ 1\\ 0\end{array}\right]=0$和$\mathbf{A}\left[\begin{array}{c}0\\ 0\\ 1\end{array}\right]=0$，得到$\mathbf{A}=\left[\begin{array}{ccc}1& -1& 0\\ 2& -2& 0\\ 1& -1& 0\end{array}\right]$

$\mathbf{A}=\mathbf{BC}=\left[\begin{array}{ccc}1& 1& 0\\ 0& 1& 0\\ 0& 0& 1\end{array}\right]\left[\begin{array}{cccc}1& 0& -1& 2\\ 0& 1& 1& -1\\ 0& 0& 0& 0\end{array}\right]$（1）不做矩阵乘法，求$\mathbf{A}$的零空间（2）求$\mathbf{A}\mathbf{x}=\left[\begin{array}{c}1\\ 0\\ 1\end{array}\right]$的通解

（1）首先，矩阵$\mathbf{B}$左乘$\mathbf{C}$，仅对应初等行变换，不改变$\mathbf{C}$的零空间，或者说$\mathbf{B}$是可逆矩阵，可以在$\mathbf{A}\mathbf{x}=0$两边同乘以${\mathbf{B}}^{-1}$
这样，求$\mathbf{A}\mathbf{x}=0$的问题，变为求$\mathbf{C}\mathbf{x}=0$，$\mathbf{A}$的零空间就是$\mathbf{C}$的零空间

而$\mathbf{C}$已经是简化行阶梯型，为两个自由变量指定取值，可以得到其零空间的基向量：$\left[\begin{array}{c}1\\ -1\\ 1\\ 0\end{array}\right]$和$\left[\begin{array}{c}-2\\ 1\\ 0\\ 1\end{array}\right]$

（2）已经求出零空间的基础解系，只要再求一个$\mathbf{A}\mathbf{x}=\left[\begin{array}{c}1\\ 0\\ 1\end{array}\right]$的特解即可
计算可得，$\mathbf{A}$的第一列恰好是$\left[\begin{array}{c}1\\ 0\\ 1\end{array}\right]$，因此一个特解是$\left[\begin{array}{c}1\\ 0\\ 0\\ 0\end{array}\right]$（$\mathbf{A}\mathbf{x}=\mathbf{b}$就是$\mathbf{x}$对$\mathbf{A}$的列向量做线性组合），再加上零空间的基向量线性组合就是通解