再理解:零空间、行空间、列空间、左零空间、基础解系、极大线性无关组、齐次解、非齐次解之间的关系
1.再理解:零空间、行空间、列空间、左零空间、基础解系、极大线性无关组、齐次解、非齐次解之间的关系
笔记来源:This is what matrices (and matrix manipulation) really look like
本人博客:3Blue1Brown系列:逆矩阵、秩、列空间、零空间
本人博客:从线代角度图解:通解、特解、非齐次通解、非齐次特解、齐次通解、齐次特解
推荐文章:线代-- 研究矩阵四大子空间的意义
此篇文章仅以方阵为例
1.1 零空间(Null Space, N ( A ) N(A) N(A))
齐次线性方程组
方程组的矩阵表示
注意此矩阵为
A
A
A
A
x
⃗
=
0
⃗
A\vec{x}=\vec{0}
Ax=0
方程组解的角度:
上面三个方程分别对应三个平面,三个平面交于一线,这条交线上的每个点
(
x
,
y
,
z
)
(x,y,z)
(x,y,z)代入三个方程都会使得三个方程为0,即交线上每个点均为三个方程的解,这些点(解)构成了矩阵A的零空间
线性变换的角度:
线性变换前的空间内所有点,在经过矩阵A的变换后,在上图交线中的所有点都被压缩到原点
矩阵A的零空间
1.2 行空间(Row Space, C ( A T ) C(A^T) C(AT))
非齐次线性方程组
方程组的矩阵表示
注意此矩阵为
A
T
A^T
AT
A
T
y
⃗
=
b
⃗
A^T\vec{y}=\vec{b}
ATy=b
将上式化为矩阵
A
A
A乘以某个向量的形式
A
T
y
⃗
=
b
⃗
(
A
T
y
⃗
)
T
=
b
⃗
T
y
⃗
T
A
=
b
⃗
T
A^T\vec{y}=\vec{b}\\ ~\\ (A^T\vec{y})^T=\vec{b}^T\\ ~\\ \vec{y}^TA=\vec{b}^T
ATy=b (ATy)T=bT yTA=bT
矩阵左乘向量
下面第一张图来自:矩阵乘法核心思想(2):行空间
我们观察一下矩阵 A A A 的行向量与零空间中的向量之间的关系
矩阵 A A A的三个行向量张成行空间,白线为矩阵 A A A的零空间,我们发现行空间⊥零空间
1.3 零空间与行空间
零空间⊥行空间
1.4 列空间(Column Space, C ( A ) C(A) C(A))
非齐次线性方程组
方程组的矩阵表示
注意此矩阵为
A
A
A
A
x
⃗
=
b
⃗
A\vec{x}=\vec{b}
Ax=b
矩阵右乘向量
下面第一张图来自:矩阵乘法核心思想(2):行空间
上图中列空间是由矩阵A的三个列向量线性组合张成的空间
我们将矩阵A的三个空间放在一起看看它们之间的关系
1.5 左零空间(Left Nullspace, N ( A T ) N(A^T) N(AT))
非齐次线性方程组
方程组的矩阵表示
注意此矩阵为
A
T
A^T
AT
A
T
y
⃗
=
0
⃗
A^T\vec{y}=\vec{0}
ATy=0
将上式化为矩阵
A
A
A乘以某个向量的形式
A
T
y
⃗
=
0
⃗
(
A
T
y
⃗
)
T
=
0
⃗
T
y
⃗
T
A
=
0
⃗
T
A^T\vec{y}=\vec{0}\\ ~\\ (A^T\vec{y})^T=\vec{0}^T\\ ~\\ \vec{y}^TA=\vec{0}^T
ATy=0 (ATy)T=0T yTA=0T
上面这些式子中
y
⃗
T
A
=
0
⃗
T
\vec{y}^TA=\vec{0}^T
yTA=0T 解向量
y
⃗
T
\vec{y}^T
yT 在矩阵
A
A
A的左侧,从这里体现了“左”字
矩阵
A
A
A的左零空间就是矩阵
A
T
A^T
AT的零空间
1.6 列空间与左零空间
左零空间⊥列空间
1.7 各个空间之间的关系
零空间与行空间正交
列空间与左零空间正交
下面第一张图来自:线性代数“正交”全家桶(2) :正交子空间
对任一矩阵
A
m
×
n
A_{m×n}
Am×n 都有
Row Rank
=
Column Rank
=
Rank
\text{Row Rank}=\text{Column Rank}=\text{Rank}
Row Rank=Column Rank=Rank
行空间:
im
(
A
T
)
\text{im}(A^T)
im(AT)
零空间:
ker
(
A
)
\text{ker}(A)
ker(A)
列空间:
im
(
A
)
\text{im}(A)
im(A)
左零空间:
ker
(
A
T
)
\text{ker}(A^T)
ker(AT)
行空间和零空间构成
n
n
n维空间
列空间和左零空间构成
m
m
m维空间
1.8 基础解系、极大线性无关组
个人理解:行空间、零空间、列空间、左零空间都是由对应线性方程组的所有解构成的空间,由于每个解为一个点,此点与原点构成向量,也可以说线性方程组的解向量构成了上述空间,一句话概括:这些空间都是对应线性方程组的解空间
解向量的极大线性无关组就是基础解系(基础解系相当于解空间的基),基础解系通过线性组合得到所有解向量,即所有解向量都可以由基础解系线性表示
1.9 齐次与非齐次方程组的解
零空间和左零空间就是齐次方程组的解所构成的空间
行空间和列空间就是非齐次方程组的解所构成空间
A x ⃗ = b ⃗ A\vec{x}=\vec{b} Ax=b 的解集是一个和 A x ⃗ = 0 ⃗ A\vec{x}=\vec{0} Ax=0 的解空间相平行的结构,该结构是Ax=0的解空间沿着一个特解方向平移的结果 --摘自:非齐次线性方程组通解的结构如何理解?
下面第一张图来自:矩阵乘法核心思想(3):零空间
具体详见本人博客:从线代角度图解:通解、特解、非齐次通解、非齐次特解、齐次通解、齐次特解