矩阵论 - 6 - 列空间、零空间

列空间、零空间

子空间综述

向量空间是对于线性运算封闭的向量集合。即对于空间中的任意向量v和w，其和v+w和数乘cv必属于该空间；换而言之对于任何实数c和d，线性组合cv+dw必属于该空间。

A vector space is a collection of vectors which is closed under linear combinations. In other words, for any two vectors v and w in the space and any two real numbers c and d, the vector cv + dw is also in the vector space. A subspace is a vector space contained inside a vector space.

子空间是包含于向量空间内的一个向量空间。它是原向量空间的一个子集，而且本身也满足向量空间的要求。

“子空间”和“子集”的概念有区别：所有元素都在原空间之内就可称之为子集，但是要满足对线性运算封闭的子集才能成为子空间。

列空间

矩阵 \(A\) 的列空间\(C(A)\)是其列向量的所有线性组合所构成的空间。

The column space of a matrix A is the vector space made up of all linear combinations of the columns of A.

Q：给定矩阵 \(A\)，对于任意 \(b\) 是否 \(Ax=b\) 都有解？

假设\(A=\begin{bmatrix}1&1&2\\2&1&3\\3&1&4\\4&1&5\end{bmatrix}\)。

显然并不是所有的\(b\)都能保证\(Ax=b\)有解。

因为它有4个线性方程而只有3个未知数，矩阵 \(A\) 列向量的线性组合无法充满\(\mathbb{R}^4\)，因此如果 \(b\) 不能被表示为 \(A\) 列向量的线性组合时，方程是无解的。只有当 \(b\) 在矩阵 \(A\) 列空间 \(C(A)\) 里时，\(x\) 才有解。

对于给定的矩阵 \(A\) ，第三个列向量为前两个列向量之和，所以列向量不是线性无关的，只有2个对张成(span)向量空间有贡献。矩阵 \(A\) 的列空间\(\mathbb{R}^4\)为内的一个二维子空间。

零空间

矩阵 \(A\) 的零空间\(N(A)\)是指满足的所\(Ax=0\)有解的集合。

对于给定矩阵\(A=\begin{bmatrix}1&1&2\\2&1&3\\3&1&4\\4&1&5\end{bmatrix}\) ，其列向量含有4个分量，因此列空间是空间 \(\mathbb{R}^4\) 的子空间，\(x\) 为含有3个分量的向量，故矩阵 \(A\) 的零空间是 \(\mathbb{R}^3\) 的子空间。对于mxn矩阵，列空间为 \(\mathbb{R}^m\) 的子空间，零空间为 \(\mathbb{R}^n\) 空间的子空间。

\(A\) 中第三列为前两列相加，矩阵 \(A\) 右乘 \(x\)，即对 \(A\) 进行列操作，易得\(x\)为\(\begin{bmatrix}1\\1\\-1\end{bmatrix}\)的任意倍。此零空间为 \(\mathbb{R}^3\) 中的一条直线。

Other values of b

更改 \(b\) 值，有如下方程：\(\begin{bmatrix}1&1&2\\2&1&3\\3&1&4\\4&1&5\end{bmatrix}\begin{bmatrix}x_1\\x_2\\x_3\end{bmatrix}=\begin{bmatrix}1\\2\\3\\4\end{bmatrix}\)。

其解集不能构成一个子空间。零向量并不在这个集合内。解集是空间 \(\mathbb{R}^3\) 内过\(\begin{bmatrix}1\\0\\0\end{bmatrix}\)和\(\begin{bmatrix}0\\-1\\1\end{bmatrix}\)的平面，但不过原点\(\begin{bmatrix}0\\0\\0\end{bmatrix}\)，不满足向量空间需要过原点的性质。

向量空间的一些性质：

1. 所有向量空间都必须包含原点(Origin)；
2. 向量空间要满足加法封闭和数乘封闭。

总结

由 \(A\) 的列向量生成的子空间为 \(A\) 的列空间；

\(A\) 的零空间是 \(Ax=0\) 中 \(x\) 的解组成的集合；

\(Ax=b\) 有非零解当且仅当 \(b\) 属于 \(A\) 的列空间。

reference

[1] textbook

[2] mit18.06学习笔记-0

[3] mit18.06学习笔记-1