! : 说明:本系列笔记是基于史荣昌、魏丰老师的《矩阵分析》一书,以及魏丰老师的PPT个人归纳整理而成的。
如有错误或者其他问题,请联系我进行修改
一. 线性空间
1.线性空间的定义
非空集合 V 是 数域 F 上的 线性空间:
则集合V中的两种代数运算——加法/数乘,满足八条运算律:
运算 | 内容 | 举例 |
---|---|---|
加 | 交换律 | a+b=b+a |
结合律 | (a+b)+c=a+(b+c) | |
零 | 存在一个元素**“0”**,对V中任意元素a,有 a+0=a | |
负元素 | 对V中任意元素a,都存在元素b:a+b=0 | |
乘 | 1 | 1·a=a |
结合律 | k(la) = (kl) a | |
分配 | (k+l)a = ka+la | |
数乘 | k(a+b) = ka+kb |
只要符合以上定义,则可以由特定特点的集合构成对应的线性空间。
例如:
- 复数域上全体m*n型矩阵,构成集合 C m ∗ n C^{m*n} Cm∗n,是复数域 C C C上的线性空间。
- 实数域 R R R上所有小于等于 n 的多项式集合 R [ x ] n R[x]_n R[x]n,构成实数域 R R R上的线性空间。
- 全体正的实数
R
+
R^{+}
R+在以下运算定义下也构成线性空间:
加法: a ⊕ b = a b , ∀ a , b ∈ R + a⊕b=ab,{\forall a,b \in R^{+}} a⊕b=ab,∀a,b∈R+
数乘: k ⊙ a = a k , ∀ a , k ∈ R + k⊙a=a^{k},{\forall a,k \in R^{+}} k⊙a=ak,∀a,k∈R+
验证:
1. a ⊕ b = a b , b ⊕ a = a b a⊕b=ab,b⊕a=ab a⊕b=ab,b⊕a=ab 2,6,7,8条同理,都容易进行验证
对于3,4,5条:
a ⊕ " 0 " = a = a " 0 " a⊕"0"=a=a"0" a⊕"0"=a=a"0",可知此空间下的“0元素”为1
a ⊕ b = a b = " 0 " = 1 a⊕b=ab="0"=1 a⊕b=ab="0"=1,则对于元素a,其负元素为 1 / a 1/a 1/a
1 ⊙ a = a 1 = a 1⊙a=a^{1}=a 1⊙a=a1=a,成立
- 在 R ∞ R^{\infty} R∞中满足cauchy条件的无限序列组成的子集合也构成R上的线性空间。
有的集合定义了加法与数乘,但不一定能构成线性空间。
例如:
- 系数在实数域R上,所有次数为n的n次多项式 f ( x ) f(x) f(x)构成的集合,加法与数乘按通常规定。并不是一个R上的线性空间。
关键:在于通过八条运算律,来验证此空间的封闭性。
其中结合、分配、数乘等运算比较容易验证,可以考虑首先验证 1,0 和 负元素 这三条。
特殊解空间
①A为m*n的矩阵,齐次线性方程组 A X = 0 AX=0 AX=0的所有解的集合构成实数域R(或者复数域C)上的线性空间。这个空间称为 A X = 0 AX=0 AX=0的解空间,或矩阵A的核(零)空间,常用 N ( A ) N(A) N(A)表示
- 但 A X = b AX=b AX=b的解的集合不构成线性空间。
②设A为m*n的矩阵,x为n维列向量,则m维列向量集合
V
=
y
∈
R
m
(
C
m
)
∣
y
=
A
x
,
x
∈
R
n
(
C
n
)
,
A
∈
R
m
n
(
C
m
n
)
V={y \in R^{m}(C ^{m}) | y=Ax,x \in R^{n}(C ^{n}),A \in R^{mn}(C ^{mn}) }
V=y∈Rm(Cm)∣y=Ax,x∈Rn(Cn),A∈Rmn(Cmn)
构成线性空间,称为A的列空间或者A的值域。常用
R
(
A
)
R(A)
R(A)表示。
2.向量的线性相关无关
个人喜欢把线性相关无关的问题,类比成整体颜色与三原色之间的关系:
在RGB体系中,除了红黄蓝外,其余的颜色都可以用红黄蓝的线性叠加来进行表示。
整体颜色的秩就是3,红黄蓝就是一个最大线性无关组。
红黄蓝无关,则取其中一部分量也无关;即整体无关可以推到部分无关
红黄橙相关,那么再任意加一个颜色,橙依然可以用红黄线性表示,即部分相关可以推到整体相关
其他性质也可用颜色进行类比(个人觉得这个例子比较好Hhhh)
- 含零向量的向量组一定线性相关
- 等价向量组的秩相同
- …
向量组的不同程度/无关程度,可以用 秩 作为衡量标准,秩是唯一的,但极大线性无关的表示是不唯一的。
二.基与坐标、坐标变换
1.定义
V
V
V为数域
F
F
F上的一个线性空间。若
V
V
V中存在
n
n
n个线性无关向量
α
1
,
.
.
α
n
α_1,..α_n
α1,..αn,使得任意一个向量
α
α
α都可以由
α
1
,
.
.
α
n
α_1,..α_n
α1,..αn线性表出
α
=
k
1
α
1
+
.
.
.
+
k
n
α
n
α=k_1α_1+...+k_nα_n
α=k1α1+...+knαn
则
α
1
,
.
.
α
n
α_1,..α_n
α1,..αn为
V
V
V的一个基底,
(
k
1
,
.
.
k
n
)
T
(k_1,..k_n)^{T}
(k1,..kn)T为向量
α
α
α在基底下的坐标。
此时
V
V
V为一个
n
n
n维线性空间,记为
d
i
m
V
=
n
.
dimV=n.
dimV=n.
- 维数唯一确定,但基底不唯一
2.基变换与坐标变换
设
α
α
α为旧基底,
β
β
β为新基底,则从旧基底到新基底有过度矩阵P
[
β
1
,
β
2
,
.
.
β
n
]
=
[
α
1
,
α
2
,
.
.
.
α
n
]
P
[β_1,β_2,..β_n] = [α_1,α_2,...α_n]P
[β1,β2,..βn]=[α1,α2,...αn]P
- 过度矩阵P是可逆的。
- 注意是从谁到谁的过渡
三.线性空间的子空间
1.定义
对线性空间
V
V
V,有
W
W
W是
V
V
V的一个非空子集合,对任意
α
,
β
∈
W
,
和
k
,
l
∈
F
α,β \in W,和 k,l \in F
α,β∈W,和k,l∈F都有
k
α
+
l
β
∈
W
kα+lβ \in W
kα+lβ∈W
则称
W
W
W是
V
V
V的一个子空间。
或:
如果
W
W
W是数域F上的n维线性空间
V
V
V的子集合,且
W
W
W中的元素,对于加法、数乘运算都具有封闭性,那么则称是
W
W
W是线性空间
V
V
V的一个线性子空间,简称子空间。
-
对任意有限维空间,必有两个平凡的子空间,即 0 与 V {0}与V 0与V本身。
-
有限生成子空间:
span{α_1,α_2,…α_n} = { k 1 α 1 + . . . + k s α s ∣ ∀ k i ∈ F k_1α_1+...+k_sα_s | \forall k_i \in F k1α1+...+ksαs∣∀ki∈F}
α 1 , . . α s α_1,..α_s α1,..αs:生成元
span{α_1,α_2,…α_n}的基底: 生成元向量组的极大无关组
span{α_1,α_2,…α_n}的维数:生成元向量组的秩 -
矩阵的特征子空间
矩阵A的一个特征值λ的全部特征向量构成的集合,也是一个R©的子空间
(矩阵不同特征值对应的特征向量自然正交,而相同特征值对应的特征向量线性相关)
比较典型的线性子空间:
- 解空间
- 特征值空间
- 有限生成子空间
s p a n span span{ α 1 , . . , α s \alpha_1,..,\alpha_s α1,..,αs}={ k 1 α 1 , . . , k s α s k_1\alpha_1,..,k_s\alpha_s k1α1,..,ksαs}
- tips:
- 向量组的秩=空间的维数
- 向量组的最大无关组=空间的基底
2.子空间的交、和
V 1 , V 2 V_1,V_2 V1,V2是 V V V的两个子空间:
- 交空间:
V
1
∩
V
2
=
V_1∩V_2=
V1∩V2={
α
∣
α
∈
V
1
,
且
α
∈
V
2
\alpha|\alpha \in V_1,且\alpha \in V_2
α∣α∈V1,且α∈V2}
交空间,即两个方程组的所有公共解所构成的空间。
设
α
∈
V
1
∩
V
2
\alpha \in V_1∩V_2
α∈V1∩V2,即
α
∈
V
1
且
α
∈
V
2
\alpha \in V_1且\alpha \in V_2
α∈V1且α∈V2,则有:
α
=
k
1
α
1
+
k
2
α
2
=
k
3
β
1
+
k
4
β
1
\alpha=k_1\alpha_1+k_2\alpha_2=k_3\beta_1+k_4\beta_1
α=k1α1+k2α2=k3β1+k4β1
- 和空间:
V
1
+
V
2
=
V_1+V_2=
V1+V2={
α
=
α
1
+
α
2
∣
α
1
∈
V
1
,
且
α
2
∈
V
2
\alpha=\alpha_1+\alpha_2|\alpha_1 \in V_1,且\alpha_2 \in V_2
α=α1+α2∣α1∈V1,且α2∈V2}
V
1
+
V
2
=
s
p
a
n
V_1+V_2=span
V1+V2=span{
α
1
,
α
2
,
β
1
,
β
2
\alpha_1,\alpha_2,\beta_1,\beta_2
α1,α2,β1,β2}
- 定理:维数公式
d i m V 1 + d i m V 2 = d i m ( V 1 + V 2 ) + d i m ( V 1 ∩ V 2 ) dimV_1+dimV_2=dim(V_1+V_2)+dim(V_1∩V_2) dimV1+dimV2=dim(V1+V2)+dim(V1∩V2)
直和:
若 V 1 ∩ V 2 = 0 V_1∩V_2=0 V1∩V2=0,则称 V 1 + V 2 V_1 + V_2 V1+V2为直和,记为 V 1 ⊕ V 2 V_1 ⊕ V_2 V1⊕V2
四.线性映射
1.线性映射
- 线性映射: V 1 → V 2 V_1→V_2 V1→V2
- 线性函数 : V F → F V_F→F VF→F
- 线性变换:
V
1
→
V
1
V_1→V_1
V1→V1
线性映射:
对向量的加,数乘有封闭性。
即:
A ( α 1 + α 2 ) = A ( α 1 ) + A ( α 2 ) \mathcal{A}(\alpha_1+\alpha_2)=\mathcal{A}(\alpha_1)+\mathcal{A}(\alpha_2) A(α1+α2)=A(α1)+A(α2);
A ( λ α 1 ) = λ A ( α 1 ) \mathcal{A}(\lambda\alpha_1)=\lambda\mathcal{A}(\alpha_1) A(λα1)=λA(α1)
例如:积分、微分也是线性映射
微分:
设映射
L
:
R
[
x
]
n
+
1
→
R
[
x
]
n
\mathcal{L}:R[x]_{n+1}→R[x]_n
L:R[x]n+1→R[x]n由下式确定:
L
(
f
(
x
)
)
=
d
d
x
f
(
x
)
,
f
(
x
)
∈
R
[
x
]
n
+
1
\mathcal{L}(f(x))=\frac{d}{dx}f(x),f(x) \in R[x]_{n+1}
L(f(x))=dxdf(x),f(x)∈R[x]n+1
积分:
设映射
S
:
R
[
x
]
n
→
R
[
x
]
n
+
1
\mathcal{S}:R[x]_{n}→R[x]_{n+1}
S:R[x]n→R[x]n+1由下式确定:
S
(
f
(
x
)
)
=
∫
x
0
f
(
t
)
d
t
,
f
(
x
)
∈
R
[
x
]
n
\mathcal{S}(f(x))=\int^{0}_{x}f(t)dt,f(x)\in R[x]_{n}
S(f(x))=∫x0f(t)dt,f(x)∈R[x]n
线性映射的矩阵表示
A
(
α
1
,
.
.
,
α
n
)
=
(
β
1
,
.
.
.
,
β
m
)
A
\mathcal{A}(\alpha_1,..,\alpha_n)=(\beta_1,...,\beta_m)A
A(α1,..,αn)=(β1,...,βm)A
矩阵
A
A
A称为线性映射,
A
\mathcal{A}
A在基
(
α
1
,
.
.
,
α
n
)
(\alpha_1,..,\alpha_n)
(α1,..,αn)与基
(
β
1
,
.
.
.
,
β
m
)
(\beta_1,...,\beta_m)
(β1,...,βm)下的矩阵表示。
定理
- 两组映射的过渡关系
B
=
Q
−
1
A
P
B=Q^{-1}AP
B=Q−1AP
- 等价
设 A , B ∈ F m × n A,B \in F^{m×n} A,B∈Fm×n,若存在 Q ∈ F m m × m , P ∈ F n n × n Q \in F_m^{m×m},P\in F_n^{n×n} Q∈Fmm×m,P∈Fnn×n,满足:
B = Q A P B=QAP B=QAP
则称 B B B与 A A A等价。
1.线性映射的值域、核
后续更新