核和值域的关系:什么是矩阵的秩?
这篇博客将介绍一个任意矩阵的核和值域的关系,并由此说明矩阵秩的意义、子空间维数、子空间正交。
1、矩阵的核:N(A)
A
∈
C
m
×
n
A\in C^{m\times n}
A∈Cm×n,矩阵的核,记作N(A),N是nullity的首字母。
N
(
A
)
=
{
x
∣
A
x
=
0
,
x
∈
C
n
}
N(A)=\{x|Ax=0,x\in C^n \}
N(A)={x∣Ax=0,x∈Cn}
A的核,其实就是齐次方程组Ax=0的所有解(解空间)。下面介绍解的情况。
- rank(A)=n,则有唯一解,且唯一解为0,N(A)={0}。
- rank(A)=r<n,则有无穷多解,且基本未知数个数为r,自由未知数个数为n-r,dim(N(A))=n-r。
可用行阶梯形来理解上述定理。注意,行初等变换不改变矩阵的解空间。
A
x
=
0
⇒
A
~
x
=
0
A
~
=
[
a
1
,
1
a
1
,
2
a
1
,
3
…
a
1
,
n
a
2
,
2
a
2
,
3
…
a
2
,
n
⋮
⋱
⋱
⋮
(
0
)
⋱
a
n
−
1
,
n
0
⋯
a
n
,
n
]
Ax=0 \Rightarrow \tilde Ax=0\\ {\mathbf {\tilde A}}={\begin{bmatrix}a_{{1,1}}&a_{{1,2}}&a_{{1,3}}&\ldots &a_{{1,n}}\\ &a_{{2,2}}&a_{{2,3}}&\ldots &a_{{2,n}}\\ \vdots &&\ddots &\ddots &\vdots \\ &(0)&&\ddots &a_{{n-1,n}}\\ 0&&\cdots &&a_{{n,n}}\end{bmatrix}}
Ax=0⇒A~x=0A~=
a1,1⋮0a1,2a2,2(0)a1,3a2,3⋱⋯……⋱⋱a1,na2,n⋮an−1,nan,n
当rank(A)=n时,a_nn ≠ 0,因此x_n=0;关注第n-1行:
a
n
−
1
,
n
−
1
x
n
−
1
+
a
n
−
1
,
n
x
n
=
0
a_{n-1,n-1}x_{n-1}+a_{n-1,n}x_{n}=0
an−1,n−1xn−1+an−1,nxn=0,连锁反应将使得x_i=0, i=1~n;
当rank(A)=r是,a_rr ≠ 0,因此x_r=0,所以x=[0,0,0,*,*,*],r个0,n-r个任意值。
2、矩阵的值域:R(A)
A
∈
C
m
×
n
A\in C^{m\times n}
A∈Cm×n,矩阵的值域,记作R(A),R是range的首字母。
R
(
A
)
=
{
y
∈
C
m
∣
y
=
A
x
,
x
∈
C
n
}
R(A)=\{y\in C^m|y=Ax,x\in C^n \}
R(A)={y∈Cm∣y=Ax,x∈Cn}
值域就是A的列向量组所能张成的最大空间。
- dim(R(A)) = rank(A) = rank(AH) = dim(R(AH))
- 秩-零化度定理:rank(A)+nullity(A)=n,nullity(A)=dim(N(A))
可以从线性表出的角度去理解。注意,矩阵的分块乘法。
y
=
A
x
=
(
α
1
,
α
2
,
⋯
,
α
n
)
(
x
1
,
x
2
,
⋯
,
x
n
)
T
=
x
1
α
1
+
x
2
α
2
+
⋯
+
x
n
α
n
\begin{aligned} y &=Ax \\ &= (\alpha_1,\alpha_2,\cdots,\alpha_n)(x_1,x_2,\cdots,x_n)^T\\ &= x_1\alpha_1+x_2\alpha_2+\cdots+x_n\alpha_n \end{aligned}
y=Ax=(α1,α2,⋯,αn)(x1,x2,⋯,xn)T=x1α1+x2α2+⋯+xnαn
3、子空间正交
所谓子空间正交,就是子空间W1的所有向量和W2所有向量正交。
<
y
,
x
>
=
<
A
x
,
x
>
=
(
A
x
)
H
x
=
x
H
A
H
x
<y,x>=<Ax,x>=(Ax)^Hx=x^HA^Hx
<y,x>=<Ax,x>=(Ax)Hx=xHAHx
因此R(A)和N(AH)正交。
- R ( A ) ∩ N ( A H ) = { 0 } R(A) \cap N(A^H)=\{0\} R(A)∩N(AH)={0}
- R ( A ) ⊕ N ( A H ) = C m R(A) \oplus N(A^H) = C^m R(A)⊕N(AH)=Cm
⊕ \oplus ⊕是直和,只有两个正交的空间才能进行直和运算。
直和:对于V1+V2中任何一个向量a=a1+a2,其中a1属于V1,a2属于V2,这种表示是唯一的,则称V1+V2为直和。
4、子空间维数定理
V 1 + V 2 = { x 1 + x 2 ∣ x 1 ∈ V 1 , x 2 ∈ V 2 } V 1 ∩ V 2 = { x ∣ x ∈ V 1 , x ∈ V 2 } V_1+V_2=\{x_1+x_2|x_1\in V_1,x_2\in V_2 \}\\ V_1\cap V_2=\{x|x\in V_1,x\in V_2 \} V1+V2={x1+x2∣x1∈V1,x2∈V2}V1∩V2={x∣x∈V1,x∈V2}
子空间维数定理:
d
i
m
(
V
1
)
+
d
i
m
(
V
2
)
=
d
i
m
(
V
1
+
V
2
)
+
d
i
m
(
V
1
∩
V
2
)
dim(V_1)+dim(V_2)=dim(V_1+V_2)+dim(V1\cap V_2)\\
dim(V1)+dim(V2)=dim(V1+V2)+dim(V1∩V2)
可从三维空间理解。V1和V2是两个不相同的平面,各自维数为2,相加为4。和空间为整个三维空间,交空间为一条直线,即一维空间。
5、非齐次线性方程组的解
在第一节介绍了其次线性方程组Ax=0的解,下面介绍非齐次线性方程组Ax=b的解,其中 A ∈ C m × n A\in C^{m\times n} A∈Cm×n, A ˉ = [ A , b ] \bar A=[A,b] Aˉ=[A,b]是增广矩阵。
- 如果rank(A)=rank( A ˉ \bar A Aˉ)=n,则方程组有唯一解。
- 如果rank(A)=rank( A ˉ \bar A Aˉ)=r<n,则方程组有无穷多解。解空间维数为r,即基本未知数有r个,自由未知数有n-r个。
- 如果rank(A)<rank( A ˉ \bar A Aˉ),则方程组无解,解空间为空。
- 不存在rank(A)>rank( A ˉ \bar A Aˉ)
注意,齐次方程组必定有解,而非齐次方程组可能无解。