一、零空间
A
x
=
0
A\boldsymbol x=\boldsymbol 0
Ax=0 所有的解构成一个子空间,称为零空间。
A
A
A 是
m
×
n
m\times n
m×n 的矩阵,它可以是方阵也可以是矩形的。右侧的向量
b
=
0
\boldsymbol b=\boldsymbol 0
b=0,我们可以立即求出它的一个解是
x
=
0
\boldsymbol x=\boldsymbol 0
x=0,对于可逆矩阵来说这是它的唯一解,对于不可逆矩阵,则
A
x
=
0
A\boldsymbol x=\boldsymbol 0
Ax=0 有非零解,这些解都在
A
A
A 的零空间中。
消元法可以找到所有的解,并且鉴别这个非常重要的子空间。
零空间
N
(
A
)
由
A
x
=
0
所有的解组成。这些向量
x
都在
R
n
中。
零空间\,\pmb N(A)\,由A\boldsymbol x=\boldsymbol 0\,所有的解组成。这些向量\,\boldsymbol x\,都在\,\pmb {\textrm R}^n\,中。
零空间N(A)由Ax=0所有的解组成。这些向量x都在Rn中。下面来检验这些解可以形成子空间。假设
x
\boldsymbol x
x 和
y
\boldsymbol y
y 都在零空间中,即有
A
x
=
0
A\boldsymbol x=\boldsymbol 0
Ax=0 且
A
y
=
0
A\boldsymbol y=\boldsymbol 0
Ay=0,由矩阵的乘法法则可得
A
(
x
+
y
)
=
0
+
0
A(\boldsymbol x+\boldsymbol y)=\boldsymbol 0+\boldsymbol 0
A(x+y)=0+0;同样可得
A
(
c
x
)
=
c
0
A(c\boldsymbol x)=c\boldsymbol 0
A(cx)=c0,右侧的向量仍然是零。因此,
x
+
y
\boldsymbol x+\boldsymbol y
x+y 和
c
x
c\boldsymbol x
cx 都在零空间
N
(
A
)
\pmb N(A)
N(A) 中,即在零空间中向量的加法和数乘封闭,所以,它是一个子空间。
注: 解
x
\boldsymbol x
x 有
n
n
n 个分量,它们是
R
n
\pmb{\textrm R}^n
Rn 中的向量,因此零空间
N
(
A
)
\pmb N(A)
N(A) 是
R
n
\pmb{\textrm R}^n
Rn 的一个子空间,列空间
C
(
A
)
\pmb{C}(A)
C(A) 是
R
m
\textrm{\pmb{R}}^m
Rm 的一个子空间。
【例1】描述
A
=
[
1
2
3
6
]
A=\begin{bmatrix}1&2\\3&6\end{bmatrix}
A=[1326] 的零空间,这是一个奇异矩阵!
解: 对线性方程
A
x
=
0
A\boldsymbol x=\boldsymbol 0
Ax=0 使用消元法:
x
1
+
2
x
2
=
0
3
x
1
+
6
x
2
=
0
→
x
1
+
2
x
2
=
0
0
=
0
\begin{matrix}x_1+2x_2=0\\3x_1+6x_2=0\kern 4pt\end{matrix}\rightarrow\begin{matrix}x_1+2x_2=0\\\kern 35pt0=0\end{matrix}
x1+2x2=03x1+6x2=0→x1+2x2=00=0这里实际上只有一个方程,第二个方程是第一个方程的
3
3
3 倍。在行图像中,直线
x
1
+
2
x
2
=
0
x_1+2x_2=0
x1+2x2=0 与直线
3
x
1
+
6
x
2
=
0
3x_1+6x_2=0
3x1+6x2=0 完全相同,这条直线就是零空间
N
(
A
)
\pmb N(A)
N(A),它包含所有的解
(
x
1
,
x
2
)
(x_1,x_2)
(x1,x2)。
有一个有效的方法用来描述
A
x
=
0
A\boldsymbol x=\boldsymbol 0
Ax=0 的解:取直线上的一点(一个特殊解),该直线上所有的点都是这个点的倍数。我们让第二个分量
x
2
=
1
x_2=1
x2=1(一个特殊选择),由方程
x
1
+
2
x
2
=
0
x_1+2x_2=0
x1+2x2=0,则第一个分量一定是
x
1
=
−
2
x_1=-2
x1=−2,这个特殊解
s
=
(
−
2
,
1
)
\boldsymbol s=(-2,1)
s=(−2,1)。
特殊解 A s = 0 A = [ 1 2 3 6 ] 的零空间包含 s = [ − 2 1 ] 的所有倍数 特殊解\,A\boldsymbol s=\boldsymbol 0\kern 10ptA=\begin{bmatrix}1&2\\3&6\end{bmatrix}\,的零空间包含\,\boldsymbol s=\begin{bmatrix}-2\\\kern 7pt1\end{bmatrix}的所有倍数 特殊解As=0A=[1326]的零空间包含s=[−21]的所有倍数
通过计算
A
x
=
0
A\boldsymbol x=\boldsymbol 0
Ax=0 的特殊解,这是描述零空间最好的方法。因为我们令自由变量
x
2
=
1
x_2=1
x2=1,所以这个解是特殊解。
A
的零空间由所有
A
x
=
0
特殊解的线性组合组成。
A\,的零空间由所有\,A\boldsymbol x=\boldsymbol 0\,特殊解的线性组合组成。
A的零空间由所有Ax=0特殊解的线性组合组成。【例2】
x
+
2
y
+
3
z
=
0
x+2y+3z=0
x+2y+3z=0 来自于
1
×
3
1\times3
1×3 的矩阵
A
=
[
1
2
3
]
A=\begin{bmatrix}1&2&3\end{bmatrix}
A=[123],
A
x
=
0
A\boldsymbol x=\boldsymbol 0
Ax=0 产生一个平面。该平面上的所有向量都与
(
1
,
2
,
3
)
(1,2,3)
(1,2,3) 垂直,这个平面就是
A
A
A 的零空间。这里由两个自由变量
y
y
y 和
z
z
z:将它们设为
0
0
0 和
1
1
1
[
1
2
3
]
[
x
y
z
]
=
0
有两个特殊解
s
1
=
[
−
2
1
0
]
和
s
2
=
[
−
3
0
1
]
\begin{bmatrix}1&2&3\end{bmatrix}\begin{bmatrix}x\\y\\z\end{bmatrix}=0\,有两个特殊解\,\boldsymbol s_1=\begin{bmatrix}-2\\\kern 7pt\pmb1\\\kern 7pt\pmb0\end{bmatrix}和\,\boldsymbol s_2=\begin{bmatrix}-3\\\kern 7pt\pmb0\\\kern 7pt\pmb1\end{bmatrix}
[123]
xyz
=0有两个特殊解s1=
−210
和s2=
−301
向量
s
1
\boldsymbol s_1
s1 和
s
2
\boldsymbol s_2
s2 都在平面
x
+
2
y
+
3
=
0
x+2y+3=0
x+2y+3=0 上,该平面上所有的向量就是
s
1
\boldsymbol s_1
s1 和
s
2
\boldsymbol s_2
s2 的线性组合。
注意
s
1
\boldsymbol s_1
s1 和
s
2
\boldsymbol s_2
s2 的特殊性,后面两个是自由分量,我们特意将它们设成
1
,
0
1,0
1,0 和
0
,
1
0,1
0,1,则由方程
A
x
=
0
A\boldsymbol x=\boldsymbol 0
Ax=0 可以确定第一分量分别是
−
2
-2
−2 和
−
3
-3
−3。
x
+
2
y
+
3
z
=
6
x+2y+3z=\pmb 6
x+2y+3z=6 所有的解也都在一个平面上,但是这个平面不是子空间,因为
x
=
0
\boldsymbol x=\boldsymbol 0
x=0 时不在该平面上。
本节有两个关键步骤:
(1)将 A A A 简化成行阶梯形式 R R R
(2)求 A x = 0 A\boldsymbol x=\boldsymbol 0 Ax=0 的特殊解
二、主元列和自由列
A = [ 1 2 3 ] A=\begin{bmatrix}1&2&3\end{bmatrix} A=[123] 的第一列是唯一的主元,所以 x \boldsymbol x x 的第一分量不是自由的。自由分量对应的是没有主元的列。特殊选择( 1 1 1 或 0 0 0)只能用在特殊解的自由变量。
【例3】求
A
、
B
、
C
A、B、C
A、B、C 的零空间,并且求出
C
x
=
0
C\boldsymbol x=\boldsymbol 0
Cx=0 的两个特殊解。
A
=
[
1
2
3
8
]
B
=
[
A
2
A
]
=
[
1
2
3
8
2
4
6
16
]
C
=
[
A
2
A
]
=
[
1
2
2
4
3
8
6
16
]
A=\begin{bmatrix}1&2\\3&8\end{bmatrix}\kern 10ptB=\begin{bmatrix}\kern 7ptA\\2A\end{bmatrix}=\begin{bmatrix}1&2\\3&8\\2&4\\6&16\end{bmatrix}\kern 10ptC=\begin{bmatrix}A&2A\end{bmatrix}=\begin{bmatrix}1&2&2&4\\3&8&6&16\end{bmatrix}
A=[1328]B=[A2A]=
132628416
C=[A2A]=[132826416]解:
A
x
=
0
A\boldsymbol x=\boldsymbol 0
Ax=0 只有一个解
x
=
0
\boldsymbol x=\boldsymbol 0
x=0,
A
A
A 零空间就是
Z
\pmb {\textrm Z}
Z,只包含
R
2
\pmb{\textrm R}^2
R2 空间中的一个点
x
=
0
\boldsymbol x=\boldsymbol 0
x=0,我们可以通过消元法来得到答案:
A
x
=
[
1
2
3
8
]
[
x
1
x
2
]
=
[
0
0
]
消元后得
[
1
2
0
2
]
[
x
1
x
2
]
=
[
0
0
]
即有
[
x
1
=
0
x
2
=
0
]
A\boldsymbol x=\begin{bmatrix}1&2\\3&8\end{bmatrix}\begin{bmatrix}x_1\\x_2\end{bmatrix}=\begin{bmatrix}0\\0\end{bmatrix}消元后得\begin{bmatrix}1&2\\0&2\end{bmatrix}\begin{bmatrix}x_1\\x_2\end{bmatrix}=\begin{bmatrix}0\\0\end{bmatrix}即有\begin{bmatrix}x_1=0\\x_2=0\end{bmatrix}
Ax=[1328][x1x2]=[00]消元后得[1022][x1x2]=[00]即有[x1=0x2=0]
A
A
A 是可逆矩阵,没有特殊解,两列都有主元。
矩形矩阵
B
B
B 与
A
A
A 是相同的零空间
Z
\pmb{\textrm Z}
Z。
B
x
=
0
B\boldsymbol x=\boldsymbol 0
Bx=0 的前两个方程会得到
x
=
0
\boldsymbol x=\boldsymbol 0
x=0,后两个方程同样会得到
x
=
0
\boldsymbol x=\boldsymbol 0
x=0。如果我们增加额外的方程(额外的行),零空间不可能会变大,因为多出来的行会对零空间中的
x
\boldsymbol x
x 有更多的限制条件。
矩形矩阵
C
C
C 和前两个矩阵的零空间不同,它有额外的列而不是额外的行,这样解
x
\boldsymbol x
x 就有
4
4
4 个分量,消元会在
C
C
C 的前两列产生主元,但是
C
C
C 和
U
U
U 的后两列是自由列,它们没有主元:
对于自由变量
x
3
x_3
x3 和
x
4
x_4
x4,我们选取特殊的
1
1
1 和
0
0
0。首先令
x
3
=
1
,
x
4
=
0
x_3=1,x_4=0
x3=1,x4=0,然后令
x
3
=
0
,
x
4
=
1
x_3=0,x_4=1
x3=0,x4=1,主元变量
x
1
x_1
x1 和
x
2
x_2
x2 就可以由方程
U
x
=
0
U\boldsymbol x=\boldsymbol 0
Ux=0(或
C
x
=
0
C\boldsymbol x=\boldsymbol 0
Cx=0)解出。这样就得到了
C
C
C 零空间的两个特殊解,也是
U
U
U 的零空间:消元法不会改变解。
特殊解
C
s
=
0
U
s
=
0
s
1
=
[
−
2
0
1
0
]
,
s
2
=
[
0
−
2
0
1
]
}
主元变量
}
自由变量
\begin{matrix}特殊解\\C\boldsymbol s=\boldsymbol 0\\U\boldsymbol s=\boldsymbol 0\end{matrix}\kern 15pt\boldsymbol s_1=\begin{bmatrix}-2\\\kern 7pt0\\\kern 7pt1\\\kern 7pt0\end{bmatrix},\boldsymbol s_2=\begin{bmatrix}\kern 7pt0\\-2\\\kern 7pt0\\\kern 7pt1\end{bmatrix}\begin{matrix}\left.\rule{0mm}{5mm}\right\}主元变量\\\left.\rule{0mm}{5mm}\right\}自由变量\end{matrix}
特殊解Cs=0Us=0s1=
−2010
,s2=
0−201
}主元变量}自由变量
三、简化行阶梯形式 R
若 A A A 是矩形矩阵,当我们得到上三角 U U U 后,还可以继续化简,通过下面两步,可以得到最简的形式 R R R:
1 、将主元上方变为 0 ; 在 R 中,使用主元行向上消元 2 、将主元变为 1. 将整个主元行除以它的主元 \begin{matrix}1、将主元上方变为\,0;&在\,R\,中,使用主元行向上消元\\2、将主元变为 \,1.\kern 19pt&将整个主元行除以它的主元\kern 10pt\end{matrix} 1、将主元上方变为0;2、将主元变为1.在R中,使用主元行向上消元将整个主元行除以它的主元
这些步骤不会改变方程右侧的零向量,零空间都是一样的: N ( A ) = N ( U ) = N ( R ) \pmb N(A)=\pmb N(U)=\pmb N(R) N(A)=N(U)=N(R)。得到简化行阶梯形式(Reduced row echelon form) R = r r e f ( A ) R=rref(A) R=rref(A) 后,能更容易观察零空间。 R R R 的主元列包含单位矩阵 I I I。
简化形式 R U = [ 1 2 2 4 0 2 0 4 ] 变为 R = [ 1 0 2 0 0 1 0 2 ] 简化形式 \,R\kern 15ptU=\begin{bmatrix}1&2&2&4\\0&2&0&4\end{bmatrix}变为\,R=\begin{bmatrix}\pmb1&\pmb0&2&0\\\pmb0&\pmb1&0&2\end{bmatrix} 简化形式RU=[10222044]变为R=[10012002]
U
U
U 的行
1
1
1 减去行
2
2
2,然后行
2
2
2 乘上
1
2
\displaystyle\frac{1}{2}
21 得到主元等于
1
1
1。现在有
(
自由列
3
)
=
2
(
主元列
1
)
\pmb{(自由列\,3)=2(主元列\,1)}
(自由列3)=2(主元列1),因此
−
2
-2
−2 会出现在
s
1
=
(
−
2
,
0
,
1
,
0
)
\boldsymbol s_1=(-2,0,1,0)
s1=(−2,0,1,0),特殊解可以很容易从
R
x
=
0
R\boldsymbol x=\boldsymbol 0
Rx=0 求得。
R
R
R 的每个自由列,改变所有的符号就可以得到
s
\boldsymbol s
s。第二个特殊解是
s
2
=
(
0
,
−
2
,
0
,
1
)
\boldsymbol s_2=(0,-2,0,1)
s2=(0,−2,0,1)。
对于很多矩阵来说,
A
x
=
0
A\boldsymbol x=\boldsymbol 0
Ax=0 仅有唯一解
x
=
0
\boldsymbol x=\boldsymbol 0
x=0,它们的零空间
N
(
A
)
=
Z
\pmb N(A)=\textrm {\pmb Z}
N(A)=Z 仅仅包含零向量,没有特殊解。唯一可以产生
b
=
0
\boldsymbol b=\boldsymbol 0
b=0 的列的组合就是 “零组合”。
A
x
=
0
A\boldsymbol x=\boldsymbol 0
Ax=0 的就是平凡(trivial)解(只有
x
=
0
\boldsymbol x=\boldsymbol 0
x=0),但是这个概念不平凡。
这种零空间是
Z
\pmb{\textrm Z}
Z 的情况是非常重要的,它说明
A
A
A 的各列是无关的, 没有组合(除了零组合)可以得到零向量。所有的列都有主元,没有自由列。
阶梯矩阵
R
的主元变量和自由变量
A
=
[
p
p
f
p
f
∣
∣
∣
∣
∣
∣
∣
∣
∣
∣
∣
∣
∣
∣
∣
∣
∣
∣
∣
∣
]
R
=
[
1
0
a
0
c
0
1
b
0
d
0
0
0
1
e
0
0
0
0
0
]
s
1
=
[
−
a
−
b
1
0
0
]
s
2
=
[
−
c
−
d
0
−
e
1
]
3
个主元列
p
I
在主元列
特殊解
R
s
1
=
0
和
R
s
2
=
0
2
个自由列
f
F
在自由列
从
R
中取
−
a
到
−
e
R
中显露
3
个主元:秩
r
=
3
R
s
=
0
则
A
s
=
0
R
中表明
:
c
o
l
u
m
n
3
=
a
(
c
o
l
u
m
n
1
)
+
b
(
c
o
l
u
m
n
2
)
,
A
中也有同样的关系。
特殊解
s
1
也表明了上述组合,
(
−
a
,
−
b
,
1
,
0
,
0
)
有
R
s
1
=
0
。
A
的零空间
=
R
的零空间
=
s
1
和
s
2
的所有组合。
\pmb{阶梯矩阵\,R\,的主元变量和自由变量}\\A=\begin{bmatrix}p&p&f&p&f\\|&|&|&|&|\\|&|&|&|&|\\|&|&|&|&|\\|&|&|&|&|\end{bmatrix}\kern 10ptR=\begin{bmatrix}\pmb1&0&a&0&c\\0&\pmb1&b&0&d\\0&0&0&\pmb1&e\\0&0&0&0&0\end{bmatrix}\kern 10pt\boldsymbol s_1=\begin{bmatrix}-a\\-b\\\kern 7pt\pmb1\\\kern 7pt0\\\kern 7pt\pmb0\end{bmatrix}\kern 10pt\boldsymbol s_2=\begin{bmatrix}-c\\-d\\\kern 7pt\pmb0\\-e\\\kern 7pt\pmb1\end{bmatrix}\\3个主元列p\kern 72ptI在主元列\kern 71pt特殊解\,R\boldsymbol s_1=\boldsymbol 0\,和\,R\boldsymbol s_2=\boldsymbol 0\\2个自由列f\kern 69ptF在自由列\kern 70pt从\,R\,中取-a\,到-e\kern 33pt\\R\,中显露\kern 82pt3个主元:秩 \,r=3\kern 38ptR\boldsymbol s=\boldsymbol 0\,则\,A\boldsymbol s=\boldsymbol 0\kern 43pt\\R\,中表明:column\,3=a(column\,1)+b(column\,2),A\,中也有同样的关系。\kern 0pt\\特殊解\,\boldsymbol s_1\,也表明了上述组合,(-a,-b,1,0,0)\,有\,R\boldsymbol s_1=\boldsymbol 0。\kern 65pt\\A\,的零空间=R\,的零空间=\boldsymbol s_1\,和\,\boldsymbol s_2\,的所有组合。\kern 105pt
阶梯矩阵R的主元变量和自由变量A=
p∣∣∣∣p∣∣∣∣f∣∣∣∣p∣∣∣∣f∣∣∣∣
R=
10000100ab000010cde0
s1=
−a−b100
s2=
−c−d0−e1
3个主元列pI在主元列特殊解Rs1=0和Rs2=02个自由列fF在自由列从R中取−a到−eR中显露3个主元:秩r=3Rs=0则As=0R中表明:column3=a(column1)+b(column2),A中也有同样的关系。特殊解s1也表明了上述组合,(−a,−b,1,0,0)有Rs1=0。A的零空间=R的零空间=s1和s2的所有组合。下面是有
3
3
3 个主元的
4
×
7
4\times7
4×7 简化行阶梯矩阵
R
R
R 的步骤:
R = [ 1 0 x x x 0 x 0 1 x x x 0 x 0 0 0 0 0 1 x 0 0 0 0 0 0 0 ] 三个主元变量 x 1 , x 2 x 6 四个自由变量 x 3 , x 4 , x 5 , x 7 N ( R ) 中有四个特殊解 主元行和主元列中含有 I R=\begin{bmatrix}\pmb1&\pmb0&x&x&x&\pmb0&x\\\pmb0&\pmb1&x&x&x&\pmb0&x\\\pmb0&\pmb0&0&0&0&\pmb1&x\\0&0&0&0&0&0&0\end{bmatrix}\begin{matrix}三个主元变量\,x_1,x_2\,x_6\\\kern 18pt四个自由变量\,x_3,x_4,x_5,x_7\\\pmb N(R)中有四个特殊解\kern 4pt\\\kern 5pt主元行和主元列中含有\,I\end{matrix} R= 10000100xx00xx00xx000010xxx0 三个主元变量x1,x2x6四个自由变量x3,x4,x5,x7N(R)中有四个特殊解主元行和主元列中含有I
问题: 矩阵
R
R
R 的列空间和零空间分别是什么?
答:
R
R
R 的列空间有
4
4
4 个分量,因此它在
R
4
\pmb {\textrm R}^4
R4 中。每个列的第四个分量都是
0
0
0,因此所有列的线性组合即列空间的每个向量的第四个分量都是
0
0
0,列空间
C
(
R
)
\pmb C(R)
C(R) 由所有形如
(
b
1
,
b
2
,
b
3
,
0
)
(b_1,b_2,b_3,0)
(b1,b2,b3,0) 的向量组成,对于这些向量
R
x
=
b
R\boldsymbol x=\boldsymbol b
Rx=b 有解。
零空间
N
(
R
)
\pmb N(R)
N(R) 是
R
7
\pmb{\textrm R}^7
R7 的子空间,
R
x
=
0
R\boldsymbol x=\boldsymbol 0
Rx=0 的解是四个特殊解的所有组合——每个特殊解对应一个自由变量:
- 列 3 , 4 , 5 , 7 3,4,5,7 3,4,5,7 没有主元,因此四个自由变量是 x 3 , x 4 , x 5 , x 7 x_3,x_4,x_5,x_7 x3,x4,x5,x7。
- 将其中一个自由变量设为 1 1 1,另外三个自由变量设为 0 0 0。
- 求出 R x = 0 R\boldsymbol x=\boldsymbol 0 Rx=0 的三个主元变量 x 1 , x 2 , x 6 x_1,x_2,x_6 x1,x2,x6 就得到 s \boldsymbol s s。
计算主元的个数得到一个非常重要的定理:假设 A A A 的列数多于行数,当 n > m n>m n>m 时,则至少有一个自由变量, A x = 0 A\boldsymbol x=\boldsymbol 0 Ax=0 至少有一个特殊解,这个解不是零。
假设 A x = 0 A\boldsymbol x=\boldsymbol 0 Ax=0 未知数的个数比方程的个数多( n × m n\times m n×m,列数比行数多),则至少有一个自由列, A x = 0 A\boldsymbol x=\boldsymbol 0 Ax=0 有非零解。
一个又矮又宽的矩阵(
n
>
m
n> m
n>m)的零空间必有非零向量,因为主元的个数不可能超过
m
m
m,所以至少有
n
−
m
n-m
n−m 个自由变量。(矩阵只有
m
m
m 行,每行不可能存在
2
2
2 个主元)。一行可能没有主元 —— 这意味着存在自由变量,这里的重点是:当存在自由变量时,它可以被设为
1
1
1,此时
A
x
=
0
A\boldsymbol x=\boldsymbol 0
Ax=0 至少有一些列非零解。
零空间是一个子空间,它的 “维度” 就是自由变量的数量。
四、矩阵的秩
数字 m 、 n m、n m、n 给出了矩阵的大小,但是不一定是线性系统的真正大小,例如方程 0 = 0 0=0 0=0 就不算。如果矩阵 A A A 有两个相同的行,那么消元后第二行将会消失;同样的如果行 3 3 3 是行 1 1 1 和行 2 2 2 组合,那么行 3 3 3 在上三角矩阵 U U U 和简化阶梯矩阵 R R R 中都会变成 0 0 0。我们不会计算全 0 0 0 的行, A A A 的真正大小是由矩阵的秩(rank)决定的。
秩的定义 A 的秩就是主元的个数,用 r 表示。 \pmb{秩的定义}\kern 20ptA\,的秩就是主元的个数,用\,r\,表示。 秩的定义A的秩就是主元的个数,用r表示。
最终的矩阵 R R R 有 r r r 个非零行。下面是一个 3 × 4 3\times4 3×4 矩阵的例子,秩 r = 2 r=2 r=2: 4 列, 2 个主元 A = [ 1 1 2 4 1 2 2 5 1 3 2 6 ] R = [ 1 0 2 3 0 1 0 1 0 0 0 0 ] 4\,列,2\,个主元\kern 10ptA=\begin{bmatrix}1&1&2&4\\1&2&2&5\\1&3&2&6\end{bmatrix}\kern 10ptR=\begin{bmatrix}\pmb1&\pmb0&2&3\\\pmb0&\pmb1&0&1\\0&0&0&0\end{bmatrix} 4列,2个主元A= 111123222456 R= 100010200310 A A A 的前两列是 ( 1 , 1 , 1 ) (1,1,1) (1,1,1) 和 ( 1 , 2 , 3 ) (1,2,3) (1,2,3),它们是不同的方向,这些是主元列(将会在 R R R 中显现)。第三列 ( 2 , 2 , 2 ) (2,2,2) (2,2,2) 是第一列的倍数,该列不会有主元;第四列 ( 4 , 5 , 6 ) (4,5,6) (4,5,6) 是前三列的和,因此第四列也没有主元。矩阵 A A A 和 R R R 的秩就是 2 2 2。 每个自由列都是前面主元列的组合,特殊解 s 会告诉我们这些组合: Column 3 = 2 ( column 1 ) + 0 ( column 2 ) s 1 = ( − 2 , − 0 , 1 , 0 ) Column 4 = 3 ( column 1 ) + 1 ( column 2 ) s 2 = ( − 3 , − 1 , 0 , 1 ) \pmb{每个自由列都是前面主元列的组合,特殊解\,\boldsymbol s\,会告诉我们这些组合:}\\\textrm{Column}\,\,3=\pmb2(\textrm{column}\,\,1)+\pmb0(\textrm{column}\,\,2)\kern 8pt\boldsymbol s_1=(\pmb{-2,-0},1,0)\\\textrm{Column}\,\,4=\pmb3(\textrm{column}\,\,1)+\pmb1(\textrm{column}\,\,2)\kern 8pt\boldsymbol s_2=(\pmb{-3,-1},0,1) 每个自由列都是前面主元列的组合,特殊解s会告诉我们这些组合:Column3=2(column1)+0(column2)s1=(−2,−0,1,0)Column4=3(column1)+1(column2)s2=(−3,−1,0,1) R R R 的列 3 3 3 中的数字 2 , 0 2,0 2,0 出现在 s 1 \boldsymbol s_1 s1 中(符号相反); R R R 的列 4 4 4 中的数字 3 , 1 3,1 3,1 出现在 s 2 \boldsymbol s_2 s2 中(符号相反)。
五、秩一
秩一矩阵只有一个主元,消元后第一列产生 0 0 0 后,其它列也会得到 0 0 0,每一行都是主元行的倍数,同时每一列都是主元列的倍数。 秩一矩阵 A = [ 1 3 10 2 6 20 3 9 30 ] → R = [ 1 3 10 0 0 0 0 0 0 ] \pmb{秩一矩阵}\kern 10ptA=\begin{bmatrix}\pmb1&3&10\\\pmb2&6&20\\\pmb3&9&30\end{bmatrix}\rightarrow R=\begin{bmatrix}\pmb1&3&10\\0&0&0\\0&0&0\end{bmatrix} 秩一矩阵A= 123369102030 →R= 1003001000 秩一矩阵的列空间是一维的,这里所有的列都是通过 u = ( 1 , 2 , 3 ) \boldsymbol u=(1,2,3) u=(1,2,3) 的直线, A A A 的列分别是 u \boldsymbol u u, 3 u 3\boldsymbol u 3u 和 10 u 10\boldsymbol u 10u,将这些数字放在一行 v T = [ 1 3 10 ] \boldsymbol v^T=\begin{bmatrix}1&3&10\end{bmatrix} vT=[1310] 就可以得到这个特殊的秩一形式 A = u v T A=\boldsymbol u\boldsymbol v^T A=uvT: A = 列乘行 = u v T [ 1 3 10 2 6 20 3 9 30 ] = [ 1 2 3 ] [ 1 3 10 ] A=列乘行=\boldsymbol u\boldsymbol v^T\kern 10pt\begin{bmatrix}1&3&10\\2&6&20\\3&9&30\end{bmatrix}=\begin{bmatrix}\pmb1\\\pmb2\\\pmb3\end{bmatrix}\begin{matrix}\begin{bmatrix}\pmb1&\pmb3&\pmb{10}\end{bmatrix}\\\\\\\end{matrix} A=列乘行=uvT 123369102030 = 123 [1310]对于秩一矩阵, A x = 0 A\boldsymbol x=\boldsymbol 0 Ax=0 会很好理解,由方程 u ( v T x ) = 0 \boldsymbol u(\boldsymbol v^T\boldsymbol x)=\boldsymbol 0 u(vTx)=0 可以得到 v T x = 0 \boldsymbol v^T\boldsymbol x=\boldsymbol 0 vTx=0,因此,所有零空间中的向量 x \boldsymbol x x 都与行空间中的 v \boldsymbol v v 垂直。 r = 1 r=1 r=1 的几何意义是: 行空间 = 直线,零空间 = 垂直的平面 行空间=直线,零空间=垂直的平面 行空间=直线,零空间=垂直的平面。
【例4】当所有的行都是主元行的倍数时,则矩阵的秩有: r = 1 r=1 r=1:
[ 1 3 4 2 6 8 ] 与 [ 0 3 0 5 ] 与 [ 5 2 ] 与 [ 6 ] 都为秩一矩阵 \begin{bmatrix}1&3&4\\2&6&8\end{bmatrix}与\begin{bmatrix}0&3\\0&5\end{bmatrix}与\begin{bmatrix}5\\2\end{bmatrix}与\begin{bmatrix}6\end{bmatrix}都为秩一矩阵 [123648]与[0035]与[52]与[6]都为秩一矩阵
这些矩阵在 MATLAB 中可以使用简化行阶梯指令 R = r r e f ( A ) R=rref(A) R=rref(A) 来检验:
R = [ 1 3 4 0 0 0 ] 与 [ 0 1 0 0 ] 与 [ 1 0 ] 与 [ 1 ] 都只有一个主元 R=\begin{bmatrix}1&3&4\\0&0&0\end{bmatrix}与\begin{bmatrix}0&1\\0&0\end{bmatrix}与\begin{bmatrix}1\\0\end{bmatrix}与\begin{bmatrix}1\end{bmatrix}都只有一个主元 R=[103040]与[0010]与[10]与[1]都只有一个主元
第二个秩的定义更高阶,它处理整个行与整个列——处理的是向量而不只是数字。这三个矩阵
A
A
A、
U
U
U 和
R
R
R 都有
r
r
r 个无关行。
A
A
A、
U
U
U 和
R
R
R 同样也有
r
r
r 个无关列(主元列)。
秩的第三个定义是线性代数的最高层次,它处理的是向量空间。秩
r
r
r 是列空间的维数,也是行空间的维数。而
n
−
r
n-r
n−r 是零空间的维数。
六、消元法:大局
这里在向量和子空间层次来说明消元法,其中
A
A
A 简化至
R
R
R。消元法从第一主元开始,一次移动一列(从左到右),以及一次移动一行(从上到下)。在移动时,消元法可以回答以下两个问题:
问题1:该列是前面列的线性组合吗?
如果该列有主元,那么就不是,主元列与前面的列是无关的。如果该列没有主元,则它是前面列的组合。
问题2:该行是前面行的线性组合吗?
如果该行有主元,则不是,主元行与前面的行是无关的。如果该行没有主元,则它是前面行的组合。
通过矩阵消元这一过程,就可以同时回答以上两个问题,实际上消元得到的是上三角矩阵
U
U
U,并不是行简化矩阵
R
R
R,从
U
U
U 到
R
R
R 需要从底部向上进行消元。
U
U
U 可以告诉我们哪些列是前面较早列的组合(失去主元的),而
R
R
R 则会告诉我们是什么样的组合。
换句话说,通过
R
R
R 我们可以得到
A
x
=
0
A\boldsymbol x=\boldsymbol 0
Ax=0 的特殊解。 我们可以通过不同的行交换和消元的方法从
A
A
A 得到
R
R
R,但是得到的
R
R
R 是相同的(因为
A
A
A 决定了特殊解)。
R
R
R 展现了三个基础子空间的 “基底(base)”:
- A A A 的列空间 —— 选择 A A A 的主元列为基底。
- A A A 的行空间 —— 选择 R R R 的非零行为基底。
- A A A 的零空间 —— 选择 R x = 0 R\boldsymbol x=\boldsymbol 0 Rx=0 的特殊解为基底。
我们从消元法也得到了一个最重要的数值 —— 秩
r
r
r 。这个数字主元列和主元行的个数,
n
−
r
n-r
n−r 是自由列和特殊解的个数。
简化
[
A
I
]
\begin{bmatrix}A&I\end{bmatrix}
[AI] 到
[
R
E
]
\begin{bmatrix}R&E\end{bmatrix}
[RE] 可以得到
A
A
A 的几乎所有信息(包括
E
A
=
R
EA=R
EA=R)。矩阵
E
E
E 是
A
A
A 到
R
R
R 的消元记录;当
A
A
A 是可逆方阵时,
R
R
R 就是
I
I
I,
E
E
E 就是
A
−
1
A^{-1}
A−1。
七、主要内容总结
- 零空间 N ( A ) \pmb{ N}(A) N(A) 是 R n \pmb{\textrm R}^n Rn 的子空间,它包含 A x = 0 A\boldsymbol x=\boldsymbol 0 Ax=0 的所有解。
- 对 A A A 进行消元可以得到一个行简化矩阵 R R R,它含有主元列和自由列。
- 每个自由列都可以得到一个特殊解,令其中一个自由变量为 1 1 1,其它的为 0 0 0 即可求出特殊解。
- A A A 的秩 r r r 是主元的个数, R = r r e f ( A ) R=rref(A) R=rref(A) 的所有主元都是 1 1 1。
- A x = 0 A\boldsymbol x=\boldsymbol 0 Ax=0 的完整解是 n − r n-r n−r 个特殊解的组合。
- 如果 n > m n>m n>m,则 A A A 至少有一个自由列, A x = 0 A\boldsymbol x=\boldsymbol 0 Ax=0 有非零解。
八、例题
【例5】如果
E
A
=
R
EA=R
EA=R 且
E
E
E 可逆,则为什么
A
A
A 和
R
R
R 有相同的零空间?
解: 若
A
x
=
0
A\boldsymbol x=\boldsymbol 0
Ax=0,则
R
x
=
E
A
x
=
E
0
=
0
R\boldsymbol x=EA\boldsymbol x=E\boldsymbol 0=\boldsymbol 0
Rx=EAx=E0=0;
若
R
x
=
0
R\boldsymbol x=\boldsymbol 0
Rx=0,则
A
x
=
E
−
1
R
x
=
E
−
1
0
=
0
A\boldsymbol x=E^{-1}R\boldsymbol x=E^{-1}\boldsymbol 0=\boldsymbol 0
Ax=E−1Rx=E−10=0。
所以
A
A
A 和
R
R
R 有相同的零空间,且有相同的行空间和秩。
【例6】创建一个
3
×
4
3\times4
3×4 的矩阵
R
R
R,并且
R
x
=
0
R\boldsymbol x=\boldsymbol 0
Rx=0 的特殊解为
s
1
\boldsymbol s_1
s1 和
s
2
\boldsymbol s_2
s2:
s
1
=
[
−
3
1
0
0
]
,
s
2
=
[
−
2
0
−
6
1
]
主元列是列
1
和列
3
自由变量是
x
2
和
x
4
\boldsymbol s_1=\begin{bmatrix}-3\\\kern 7pt1\\\kern 7pt0\\\kern 7pt0\end{bmatrix},\kern 5pt\boldsymbol s_2=\begin{bmatrix}-2\\\kern 7pt0\\-6\\\kern 7pt1\end{bmatrix}\kern 10pt\begin{matrix}主元列是列\,1\,和列\,3\\自由变量是\,x_2和\,x_4\end{matrix}
s1=
−3100
,s2=
−20−61
主元列是列1和列3自由变量是x2和x4描述所有可能的矩阵A,它的零空间
N
(
A
)
=
所有的
s
1
和
s
2
的组合
\pmb N(A)=所有的\,\boldsymbol s_1和\,\boldsymbol s_2\,的组合
N(A)=所有的s1和s2的组合。
解: 简化矩阵
R
R
R 在列
1
1
1 和列
3
3
3 的主元为
1
1
1,由于没有第三主元,所以
R
R
R 的行
3
3
3 全为
0
0
0。自由列
2
2
2 和
4
4
4 是主元列的组合:
R
R
R 的
3
,
0
,
2
,
6
3,0,2,6
3,0,2,6 是从
s
1
\boldsymbol s_1
s1 和
s
2
\boldsymbol s_2
s2 中的
−
3
,
−
0
,
−
2
,
−
6
-3,-0,-2,-6
−3,−0,−2,−6 得来的,每个
A
=
E
R
A=ER
A=ER。
每个
3
×
4
3\times4
3×4 的矩阵至少有一个特殊解,这个矩阵有两个:
R
=
[
1
3
0
2
0
0
1
6
0
0
0
0
]
有
R
s
1
=
0
且
R
s
2
=
0
R=\begin{bmatrix}\pmb1&\pmb3&0&\pmb2\\0&\pmb0&\pmb1&\pmb6\\0&0&0&0\end{bmatrix}有R\boldsymbol s_1=\boldsymbol 0\,且\,R\boldsymbol s_2=\boldsymbol 0
R=
100300010260
有Rs1=0且Rs2=0【例7】求矩阵
A
A
A 和
B
B
B 的行简化形式
R
R
R 以及它们的秩(与
c
c
c 有关)。哪个是矩阵
A
A
A 的主元列?特殊解是什么?
求特殊解
A
=
[
1
2
1
3
6
3
4
8
c
]
B
=
[
c
c
c
c
]
求特殊解\kern 10ptA=\begin{bmatrix}1&2&1\\3&6&3\\4&8&c\end{bmatrix}\kern 15ptB=\begin{bmatrix}c&c\\c&c\end{bmatrix}
求特殊解A=
13426813c
B=[cccc]解: 对于矩阵
A
A
A,它的第二行是第一行的
3
3
3 倍,若
c
≠
4
c\neq4
c=4,则
A
A
A 的秩为
2
2
2;主元列是列
1
1
1 和列
3
3
3,自由变量是
x
2
x_2
x2,注意
R
R
R 的形式,行
3
3
3 移到了行
2
2
2 的位置。
c
≠
4
R
=
[
1
2
0
0
0
1
0
0
0
]
c
=
4
R
=
[
1
2
1
0
0
0
0
0
0
]
c\neq4\kern 10ptR=\begin{bmatrix}\pmb1&2&0\\0&0&\pmb1\\0&0&0\end{bmatrix}\kern 15ptc=4\kern 10ptR=\begin{bmatrix}\pmb1&2&1\\0&0&0\\0&0&0\end{bmatrix}
c=4R=
100200010
c=4R=
100200100
当
c
=
4
c=4
c=4 时,只有列
1
1
1 是主元列(秩一),第二和第三个变量是自由变量。特殊解:
c
≠
4
特殊解
(
−
2
,
1
,
0
)
c
=
4
另一特殊解
(
−
1
,
0
,
1
)
c\neq4\kern 5pt\,特殊解(-2,1,0)\kern 10ptc=4\,另一特殊解\,(-1,0,1)
c=4特殊解(−2,1,0)c=4另一特殊解(−1,0,1)
2
×
2
2\times2
2×2 的矩阵
B
=
[
c
c
c
c
]
B=\begin{bmatrix}c&c\\c&c\end{bmatrix}
B=[cccc],当
c
≠
0
c\neq0
c=0 时,
r
=
1
r=1
r=1;当
c
=
0
c=0
c=0 时,
r
=
0
r=0
r=0。
c
≠
0
R
=
[
1
1
0
0
]
c
=
0
R
=
[
0
0
0
0
]
零空间为
R
2
c\neq0\kern 5ptR=\begin{bmatrix}1&1\\0&0\end{bmatrix}\kern 10ptc=0\kern 5ptR=\begin{bmatrix}0&0\\0&0\end{bmatrix}\kern 5pt零空间为\,\pmb{\textrm R}^2
c=0R=[1010]c=0R=[0000]零空间为R2