§3.2正交与正交分解
3.2.1正交的定义
希望把n维欧氏空间中更多的几何性质“推广”到一般的内积空间.
在实的内积空间中,如果x≠0,y≠0,由Schwarz不等式
|(x,y)| 2 ≤(x,x)(y,y),
我们有−1≤(x,y)∥x∥∥y∥ ≤1.
x和y之间的“夹角”可以理解为
θ=cos −1 ((x,y)∥x∥∥y∥ )
在内积空间,我们可以类似于n维欧氏空间,当
(x,y)=0时,定义元素x和y正交.
定义3.2.1设X是内积空间,x,y∈X,若(x,y)=0,则称x与y正交,记为x⊥y.
定理3.2.2(勾股定理)设X是内积空间,x,y,z∈X,
x=y+z且y⊥z,则
∥x∥ 2 =∥y∥ 2 +∥z∥ 2 (3.2.1)
证明:∥x∥ 2 =(y+z,y+z)
=(y,y)+(z,y)+(y,z)+(z,z)
=∥y∥ 2 +∥z∥ 2
元素正交于集合的概念:
定理3.2.3设X是内积空间,M⊂X,x∈X,如果对
于任意的y∈M,有(x,y)=0,则称x正交于M,记为x⊥M.
集合与集合正交的概念:
定义3.2.4设X是内积空间,M和N是X中的两个
子集,如果对于任意的x∈M,y∈N,有(x,y)=0,
则称M正交于N,记为M⊥N.
3.2.2正交补集
定义3.2.5设M是内积空间X的子集,则X中所有与
M正交的元素组成的集合称为M的正交补,记为M ⊥
M ⊥ ={y∈X|(x,y)=0,∀x∈M}(3.2.2)
定理3.2.6设X是内积空间,M是X的子集,则
(1)0∈M ⊥ .
(2)如果0∈M,那么M∩M ⊥ ={0},否则M∩M ⊥ =∅
(3){0} ⊥ =X,X ⊥ ={0}.
(4)如果M⊃B(a,r),其中B(a,r)是以a∈X为中的,
以r为半径的开球,那么M ⊥ ={0}.
如果M是一个非空的开集,则M ⊥ ={0}.
(5)如果N⊂M,那么M ⊥ ⊂N ⊥ .
(6)M⊂(M ⊥ ) ⊥ .
定理3.2.7设X是内积空间,M是X的任意子集,则M ⊥ 是X中的闭子空间.
分析:先证明M ⊥ 是子空间,再证明它是闭的.
要证明M ⊥ 闭,需证对任何{x n }⊆M ⊥ ,x n →x(n→∞),
都有x∈M ⊥ (即对∀z∈M,有(x,z)=0).
证明(1)证明M ⊥ 是子空间.
任取x∈M ⊥ ,y∈M ⊥ ,以及α,β∈K,
则对于任意的z∈M,
(αx+βy,z)=α(x,z)+β(y,z)=0,
因此αx+βy∈M ⊥ ,即M ⊥ 是X的子空间.
(2)证明M ⊥ 是闭的.
如果{x n }⊆M ⊥ ,且x n →x(n→∞),
则对于任意的z∈M,由内积的连续性可得
(x,z)=(lim n→∞ x n ,z)=lim n→∞ (x n ,z)=0.
因此x∈M ⊥ ,所以M ⊥ 是闭子空间.
注:M是X的子集,M不一定是子空间,但是M ⊥ 是X的闭子空间.
定理3.2.8设M是内积空间X的一个线性子空间,则
x∈M ⊥ 当且仅当对∀y∈M,有∥x−y∥≥∥x∥.
证明:“⇒”因为x∈M ⊥ ,y∈M,由定理3.2.2,有
∥x−y∥ 2 =∥x+(−y)∥ 2 =∥x∥ 2 +∥y∥ 2 ≥∥x∥ 2 .
“⇐”要证明:若对于x∈X,∀y∈M,有
∥x−y∥≥∥x∥,
则x∈M ⊥ .
设M是X的线性子空间,且对于x∈X,有
∥x−y∥≥∥x∥,∀y∈M.
由M是线性子空间知,对∀t≠0(t∈R),有ty∈M.
从而得到∥x−ty∥ 2 ≥∥x∥ 2 .
再根据内积的定义
∥x−ty∥ 2 =∥x∥ 2 −t(x,y)−t(y,x)+t 2 ∥y∥ 2
于是0≤−2tRe(x,y)+t 2 ∥y∥ 2 .
故2tRe(x,y)≤t 2 ∥y∥ 2 .
∀t>0,我们有Re(x,y)≤12 t∥y∥ 2 .
由t的任意性,可得Re(x,y)≤0.
∀t<0,我们有Re(x,y)≥12 t∥y∥ 2 .
由t的任意性,可得Re(x,y)≥0.故Re(x,y)=0.
同样的,我们以it代替t,可得Im(x,y)=0.
从而(x,y)=0,即x⊥y.
3.2.3最佳逼近
在1.3节定义1.3.12中,我们定义了一点x到一个集合
A的距离d(x,A):
d(x,A)=inf{(d(x,y)|y∈A}
如果存在点x 0 ∈A,使得:
∥x−x 0 ∥=d(x,A).
则称x 0 是x在集合A中的最佳逼近点,
即x 0 是集合中与x“最接近的点”.
这样的点是否存在,存在的话是否唯一,是一个在理论上
和应用上都十分重要的问题.
在Hilbert空间,最佳逼近的问题相对比较简单.
定义3.2.9一个赋范空间X称为是严格凸的,如果对于任意的
x,y∈X,x≠y,并且∥x∥=∥y∥=1,都有
∥αx+βy∥<1(∀α,β>0,α+β=1).
定理3.2.10内积空间是严格凸的赋范空间.
分析:利用严格凸赋范空间的定义来证明.
证明:设X是内积空间.任给0<λ<1,x,y∈X,
∥x∥=∥y∥=1,且x≠y,
(1)当x=−y时,
∥λx+(1−λ)y∥=∥2λy−y∥
=|2λ−1|∥y∥=|2λ−1|<1
(2)当x=αy,|α|=1,α≠±1时,
∥λx+(1−λ)y∥=∥λαy+(1−λ)y∥
=|αλ+(1−λ)|∥y∥=|αλ+(1−λ)|
<|αλ|+|1−λ|=λ+1−λ=1.
(3)当x≠αy,∀α∈C时,Schwarz不等式中的不等
号严格成立
|(x,y)| 2 <(x,x)(y,y),
注意到Re(x,y)≤|Re(x,y)|≤|(x,y)|<∥x∥∥y∥=1,
我们有
∥λx+(1−λ)y∥ 2
=λ 2 ∥x∥ 2 +2λ(1−λ)Re(x,y)+(1−λ) 2 ∥y∥ 2
=λ 2 +2λ(1−λ)Re(x,y)+(1−λ) 2 <[λ+(1−λ)] 2 =1.
注:不是所有的赋范空间都是严格凸的,例如C[a,b]就不是严格凸的.
对于严格凸的Hilbert空间,我们有:
定理3.2.11设M是Hilbert空间H中的非空闭凸集,
则对于任意的x∈H,存在唯一的最佳逼近点x 0 ∈M,使得
∥x−x 0 ∥=d(x,M)=inf{∥x−y∥|y∈M}.
证明:(i)证明存在性.
不妨假定M是H的真子集,并且x∈ ¯ ¯ M.
(1)记α=inf y∈M {∥x−y∥}.于是存在{x n }⊂M,使得
∥x n −x∥→α(n→∞)(3.2.3)
(2)由于M是凸集.对于任意的自然数m,n,有:
x m +x n 2 ∈M,
因此∥x−x m +x n 2 ∥≥α(3.2.4)
(3)由平行四边形法则,结合(3.2.3)(3.2.4)式可得
∥x m −x n ∥ 2 =2∥x m −x∥ 2 +2∥x−x n ∥ 2 −4∥x−x m +x n 2 ∥ 2
≤2∥x m −x∥ 2 +2∥x−x n ∥ 2 −4α 2 .
(4)所以当m,n→∞时,
∥x m −x n ∥ 2 →0,
即{x n }是M中的Cauchy列.
(5)由于H是Hilbert空间,M是闭的,于是存在x 0 ∈M,使得
x n →x 0 (n→∞)
于是∥x n −x∥→α(n→∞),且范数是连续的,有
∥x 0 −x∥=α.
(ii)唯一性,用反证法.
依然加上x∈ ¯ ¯ M,由于M是闭集,
α=inf y∈M ∥x−y∥>0
假如最佳逼近点不唯一,即存在y 0 ∈M,y 0 ≠x 0 ,且
∥x−y 0 ∥=α
(1)我们可推出12 (x 0 +y 0 )也是最佳逼近点.事实上:
∥x−12 (x 0 +y 0 )∥=∥12 (x−x 0 )+12 (x−y 0 )∥
≤12 ∥x−x 0 ∥+12 ∥x−y 0 ∥=α
于是由M是凸的,x 0 +y 0 2 ∈M,由α的定义有
∥x−12 (x 0 +y 0 )∥=α(3.2.5)
即12 (x 0 +y 0 )也是最佳逼近点.
(2)考虑x−x 0 α 和x−y 0 α ,显然∥x−x 0 α ∥=∥x−y 0 α ∥=1,并且
∥12 (x−x 0 α )+12 (x−y 0 α )∥=1α ∥x−x 0 +y 0 2 ∥=1α ⋅α=1.
与Hilbert空间严格凸矛盾.唯一性得证.
注1:定理3.2.11说明,
当M是Hilbert空间H中的非空的闭的凸集,
x∈H,则存在唯一确定的点x 0 ∈M,与x的距离最近.
进一步当M是Hilbert空间H中的闭子空间,结论显然成立.
注2:但是对于一般的闭集,最佳逼近点可能是不唯一的.
例如M是平面上的一个圆周,x是圆心,那么x到集合M
最近的点y可以是圆周上的任意一点,不是唯一的.
注3:从证明中可以看到,
在赋范空间对于非空闭的凸集M,最佳逼近点如果存在,
最佳逼近点的全体也是一个凸集(见(3.2.5)式).
在严格凸的赋范空间中,对于非空闭的凸集M,最佳逼近点
如果存在,最佳逼近点是唯一的.
注4:在一般的无穷维的赋范空间X中:
如果M是X的有限维子空间,则对于x∈X,x在M
中存在最佳逼近点.
但对一般非空闭的凸子集M,最佳逼近点可能不存在;即
使存在,也未必唯一.
(参阅 汪林 《泛函分析中的反例》p.51)
3.2.4Hilbert空间的正交分解
三维欧氏空间可以分解为三个一维子空间的正交和,
使问题的处理变得更加简单.
我们希望把这一想法推广到一般的Hilbert空间.
定理3.2.12(正交分解定理)设H是Hilbert空间,M是H中的闭子空间,
则对于任意的x∈H,存在唯一的x 0 ∈M以及y∈M ⊥ ,使得
x=x 0 +y(3.2.6)
并且∥x∥ 2 =∥x 0 ∥ 2 +∥y∥ 2 (3.2.7)
证明:
(i)存在性.
(1)因为M是Hilbert空间H的闭子空间(凸集),因此由定理3.2.11,
对于任意的x∈H,存在最佳逼近点x 0 ∈M,使得
∥x−x 0 ∥=d(x,M)=inf z∈M {∥x−z∥}.
(2)令y=x−x 0 ,下面要证明y∈M ⊥ .
对于任意z∈M,有∥y−z∥=∥x−(x 0 +z)∥≥∥x−x 0 ∥=∥y∥
根据定理3.2.8,y∈M ⊥ .
即:存在x 0 ∈M及y∈M ⊥ ,使得x=x 0 +y.
(ii)唯一性,用反之法来证明.
如果还有x=x ′ 0 +y ′ ,其中x ′ 0 ∈M,y ′ ∈M ⊥ .
结合x=x 0 +y,我们有x ′ 0 −x 0 =y ′ −y.
于是
y ′ −y∈M ′ ∩M ⊥ ={0},
所以y ′ =y,且x ′ 0 =x.
(3)由于x 0 ∈M和y∈M ⊥ ,根据勾股定理3.2.2,可知
∥x∥ 2 =∥x 0 ∥ 2 +∥y∥ 2
成立.
注1:M是H的真闭线性子空间.
∀x∈H(x∈ ¯ ¯ M),存在唯一的x 0 ∈M使得
x=x 0 +y,这里的x 0 ∈M,y∈M ⊥ .
x 0 称为x在M上的投影.
x 0 是x在M中最佳逼近点,(x−x 0 )⊥M.
H=M⊕M ⊥ ,
其中⊕表示两个子空间的正交直接和.
(2)在Hilbert空间H中,当M是H的真闭子空间时,
可把定理的结论与Riesz引理(2.3.12)相对照.
Riesz引理:X 0 ⊂X,且X 0 是X的真闭子空间,则对于∀ε>0,
存在y∈X,使得∥y∥=1,且对于∀z∈X 0 ,∥y−z∥>1−ε.
在Hilbert空间中,由于X 0 是H的真闭子空间,根据定理3.2.12,
存在y∈X ⊥ 0 ,不妨设∥y∥=1,
由定理3.2.8,y∈X ⊥ 0 ,当且仅当对任意的z∈X 0 都
有∥y−z∥≥∥y∥.
即d(y,X 0 )≥∥y∥.
由于X 0 是子空间,所以0∈X 0 ,于是
d(y,X 0 )=∥y∥.
也就是说,在Hilbert空间H中,若X 0 是H的真闭子空间,
则存在y∈X,∥y∥=1,(事实上,y∈X ⊥ 0 ),且
d(y,X 0 )=∥y∥=1.
即Riesz引理中的结论“>1−ε”可加强为“≥1”.
定理3.2.13设X 0 是Hilbert空间H中的一个闭线性子空间,则X ⊥⊥ 0 =X 0 .
证明:(1)根据定理3.2.6(6)有:X 0 ⊂X ⊥⊥ 0 .
(2)设x∈X ⊥⊥ 0 ,要证x∈X 0 .
根据正交分解定理(定理3.2.12),
x=x 0 +y,其中x 0 ∈X 0 ,y∈X ⊥ 0 .
由y∈X ⊥ 0 ,x∈X ⊥⊥ 0 ,我们有(x,y)=0.于是
0=(x,y)=(x 0 +y,y)=(x 0 ,y)+(y,y)(3.2.8)
因为x 0 ∈X 0 ,y∈X ⊥ 0 ,故(x 0 ,y)=0.
于是(3.2.8)式意味着∥y∥=0.
故y=0,从而x=x 0 ∈X 0 .因此X ⊥⊥ 0 =X 0 .
由上述定理和定理3.2.7、定理3.2.6容易证得:
命题3.2.14设X 0 是Hilbert空间H中的一个线性子空间,则
(1)X ⊥⊥ 0 =X 0 ¯ ¯ ¯ ¯ ,其中X 0 ¯ ¯ ¯ ¯ 是X 0 的闭包;
(2)X ⊥ 0 ={0}当且仅当X 0 在H中稠密.