泛函分析 03.01 内积空间与Hilbert空间-内积空间的基本性质

$\color{blue}{第三章 内积空间与 Hilbert 空间}$

$在线性空间上定义了范数之后, 成为赋范空间.$
$赋范空间中有元素的范数(模), 进一步有了两个元素之间$
$的距离等重要的概念.$
$我们知道, “长度”并不是欧氏距离 \mathbb{R}^n 中唯一的可以数$
$量化的几何概念.$
$例如 x = (x_1, x_2, x_3) 和 y = (y_1, y_2, y_3) 是 \mathbb{R}^3 空间中$
$的向量, 它们之间的角度可以用它们的内积$
$\qquad (x, y) = x_1 y_1 + x_2 y_2 + x_3 y_3 = \Vert x \Vert \Vert y \Vert \cos \theta$
$表示出来. 其中$
$\qquad \Vert x \Vert = \sqrt{x_1^2 + x_2^2 + x_3^2} = \sqrt{(x, x)}$
$\qquad \Vert y \Vert = \sqrt{(y, y)}$
$分别是 x 和 y 的长度(模).$

$本章目标: 把n维欧氏空间中“角度”、“正交”以及内积$
$等概念引入到一般的线性空间,$
$建立起内积空间的一整套理论.$
$内积空间是一种特殊的赋范空间, 从泛函分析发展的历史$
$上看, 人们首先注意到的是内积空间而不是赋范空间.$
$内积空间特别是 Hilbert 空间是欧氏空间最自然的“推广”,$
$它们具有与欧氏空间十分相似的许多性质,$
$Hilbert 空间迄今为止仍然是应用最广泛的一类空间.$
$在内积空间和Hilbert空间中使用的“几何”概念和述语,$
$与欧几里得几何的语言相似,它是由 E.Schimidt在1908年引入的.$
$下面我们需要把n维欧氏空间内积具有的最基本的性质$
$抽象出来, 在一般的线性空间引入内积的定义, 建立起内积$
$空间、Hilbert空间理论.$

$\color{blue}{\S 3.1 内积空间的基本性质}$

$3.1.1 内积空间的定义$

$在\mathbb{R}^2 中可以定义距离、范数、内积这些概念,$
$设 a = (a_1, a_2), b = (b_1, b_2) \in \mathbb{R}^2, 其内积定义为$
$\qquad (a, b) = a_1 b_1 + a_2 b_2,$
$于是$
$\qquad \cos (a, b) = \dfrac{(a, b)}{\Vert a \Vert \Vert b \Vert},$
$\qquad \Vert a \Vert = \sqrt{(a, a)} = \sqrt{a_1^2 + a_2^2},$
$\qquad a \perp b \Longleftrightarrow (a, b) = 0.$
$并且内积满足:$
$(1) (a, a) \geq 0; (a, a) = 0 当且仅当 a = 0;$
$(2) (a, b) = \overline{(b, a)} ;$
$(3) (\alpha a, b) = \alpha (a, b);$
$(4) (a + b, c) = (a, c) + (b, c).$
$我们把这样的一些性质抽象出来, 把它们作为内积需满足的基本性质.$

$定义 3.1.1 H是数域 \mathbb{K} 上的线性空间,$
$如果对于任意 x, y \in H, 有 \mathbb{K} 中的一个数 (x, y) 与它$
$们对应, 使得对任意的x, y \in H, a \in \mathbb{K}, 满足$
$(1) (x, x) \geq 0; (x, x) = 0 当且仅当 x = 0;$
$(2) (x, y) = \overline{(y, x)};$
$(3) (a x, y) = a(x, y);$
$(4) (x + y, z) = (x, z) + (y, z).$
$则称 (\cdot, \cdot) 是H上的一个内积,$
$定义了内积的空间H成为内积空间.$
$注1：(x, y)是一个二元函数, 对于每一个固定的$
$y \in H, (x, y)是H上的一个线性函数(线性泛函).$
$注2：$
$\qquad (i) (x, y+z) = \overline{(y + z, x)} = \overline{(y, x)} + \overline{(z, x)}$
$\qquad = (x, y) + (x, z),$
$\qquad (ii) (x, ay) = \overline{(ay, x)} = \overline{a(y, x)} = \overline a (x, y),$
$即内积对于后一个变量是共轭线性的.$
$注3：对于实数域上的线性空间, 可以定义实的内积空间,$
$这时内积满足的第(2)条改为$
$\qquad (x, y) = (y, x).$

$例3.1.2 对 x = (x_1, \cdots, x_n); y = (y_1, \cdots, y_n) \in \mathbb{R}^n.$
$定义$
$\qquad (x, y) = \sum \limits_{k=1}^n x_k y_k \quad(3.1.1)$
$容易验证它是一个内积, 因此 \mathbb{R}^n 是一个(实的)内积空间.$
$下面我们可以看到, 有这个内积可定义(范数):$
$\qquad \Vert x \Vert = \sqrt{(x, x)} = (\sum \limits_{k=1}^n |x_k|^2)^{\frac{1}{2}} (x \in \mathbb{R}^n) \quad (3.1.2)$

$例3.1.3 在复的n维向量空间 \mathbb{C}^n 中可以类似地定义内积:$
$\qquad (x, y) = \sum \limits_{k=1}^n x_k \overline{y_k} \qquad (3.1.3)$
$其中 x = (x_1, \cdots, x_n); y = (y_1, \cdots, y_n) \in \mathbb{C}^n.$
$在此内积下 \mathbb{C}^n 成为一个内积空间.$

$\color{blue}{3.1.2 由内积生成的范数}$

$在内积空间中, 希望类似于在\mathbb{R}^2中, 定义元素的范数$
$\Vert x \Vert, 且$
$\qquad \Vert x \Vert = \sqrt{(x, x)}$
$为验证这样定义的范数 \Vert x \Vert 满足范数的四个条件, 首先要$
$证明以下的不等式.$

$定理 3.1.4 (Schwarz 不等式)$
$设 H 是内积空间, 对于 \forall x, y \in H, 有$
$\qquad |(x, y)|^2 \leq (x, x)(y, y) \quad (3.1.4)$
$证明思路: 我们利用内积的定义, 即四个条件来证明.$
$证明：任取 \lambda \in \mathbb{C}, 则对任意的 x, y \in H,$
$\qquad (x + \lambda y, x + \lambda y)$
$\qquad = (x, x) + \overline \lambda(x, y) + \lambda(y, x) + |\lambda|^2 (y, y) \quad (3.1.5)$
$\qquad \geq 0$
$设 y \neq 0, 令 \lambda = - \dfrac{(x, y)}{(y, y)}, 代入上式知$
$\quad (x, x) - 2 \dfrac{|(x, y)|^2}{(y, y)} + \dfrac{|(x, y)|^2}{(y, y)} \geq 0,$
$因此 |(x, y)|^2 \leq (x, x)(y, y)$
$当 y = 0 时, (x, y) = (y, y) = 0, 不等式显然成立.$
$注1：其中等号当且仅当 x 与 y线性相关(x = - \lambda y) 时成立.$
$注2：结合例3.1.2 ((x, y) = \sum \limits_{k=1}^n x_k y_k) 可知, Cauchy 不等式$
$\qquad \sum \limits_{k=1}^n |x_k y_k| \leq (\sum \limits_{k=1}^n |x_k|^2)^{\frac{1}{2}}(\sum \limits_{k=1}^n |y_k|^2)^{\frac{1}{2}}$
$是 Schwarz 不等式的特殊情况.$

$定理3.1.5 在内积空间H上, 对于任意的 x \in H, 定义$
$\qquad \Vert x \Vert = \sqrt{(x, x)} \quad (3.1.6)$
$则 \Vert \cdot \Vert 是H上的一个范数.$
$实数上, (3.1.6) 式显然满足范数的条件(i), (ii) 和 (iii).$
$对于(iv)三角不等式, 由 Schwarz 不等式我们有$
$\qquad \Vert x + y \Vert ^2 = (x +y, x+y)$
$\qquad \leq |(x+y, x)| + |(x+y, y)|$
$\qquad \leq \Vert x+y \Vert \Vert x \Vert + \Vert x+y \Vert \Vert y \Vert$
$\qquad = \Vert x + y \Vert (\Vert x \Vert + \Vert y \Vert),$
$于是 \Vert x + y \Vert \leq \Vert x \Vert + \Vert y \Vert$
$故 \Vert x \Vert = \sqrt{(x, x)} 是H上由内积产生的范数.$
$从而我们有下述结论:$

$定理3.1.6 每个内积空间H按范数 \Vert x \Vert = \sqrt{(x, x)} 成为一个赋范空间.$
$注：内积空间中定义了范数, 由范数又可以定义距离, 这样$
$就有了收敛性等距离空间中所具有的性质.$
$由内积定义了范数 \Vert x \Vert = \sqrt{(x, x)}, Schwarz 不等式$
$\qquad |(x, y)|^2 \leq (x, x)(y, y)$
$可以写成:$
$\qquad |(x, y)| \leq \Vert x \Vert \Vert y \Vert \quad (3.1.7)$
$由 Schwarz 不等式我们可以得到:$

$定理3.1.7 设H是内积空间, 则内积(x, y) 是关于x, y$
$的连续函数. 即当 x_n \to x, y_n \to y 时$
$\qquad (x_n, y_n) \to (x, y) (n \to \infty)$
$分析: 只要证明 |(x_n, y_n) - (x, y)| \to 0 (n \to \infty)$
$注意到 \Vert y_n - y \Vert \to 0, \Vert x_n - x \Vert \to 0, 通过加一项, 再$
$减掉这一项, 利用 Schwarz不等式来证明.$
$证明: 由 Schwarz 不等式 (3.1.7), 我们有$
$\qquad |(x_n, y_n) - (x, y)|$
$\qquad \leq |(x_n, y_n) - (x_n, y) + (x_n, y) - (x, y)|$
$\qquad \leq \Vert y_n - y \Vert \Vert x_n \Vert + \Vert x_n - x \Vert \Vert y \Vert,$
$因为点列 \lbrace x_n \rbrace 收敛, 所以数列 \lbrace \Vert x_n \Vert \rbrace 有界, 我们有$
$\qquad (x_n, y_n) \to (x, y) (n \to \infty)$

$定理3.1.8 设集合 M 在内积空间H中稠密, 若$
$x_0 \in H, 且有$
$\qquad (x, x_0) = 0, \forall x \in M,$
$则 x_0 = 0.$
$分析: 只要证 (x_0, x_0) = 0.$
$证明: 由 M 在 H 中稠, 对于 x_0 \in H, 存在$
$x_n \in M(n = 1, 2, \cdots), 使得$
$\qquad x_n \to x_0 (n \to \infty)$
$由内积的连续性$
$\qquad (x_0, x_0) = (\lim \limits_{n \to \infty} x_n, x_0) = \lim \limits_{n \to \infty} (x_n, x_0) = 0,$
$所以 x_0 = 0.$

$\color{blue}{3.1.3 内积和相应范数的关系}$

$前面由内积引出范数,$
$下面讨论范数和内积的关系.$

$定理3.1.9 设H是内积空间, 对于任何的 x, y \in H, 有$
$(i) 平行四边形法则$
$\Vert x+y \Vert ^2 + \Vert x-y \Vert^2 = 2(\Vert x \Vert ^2 + \Vert y \Vert^2) \quad (3.1.8)$
$(ii) 极化恒定式$
$(x, y) = \dfrac{1}{4}(\Vert x+y \Vert ^2 - \Vert x - y \Vert ^2 + i \Vert x +iy \Vert ^2 - i \Vert x - iy \Vert ^2) \quad (3.1.9)$
$证明：有内积定义的范数，可知：$
$\Vert x+y \Vert ^2 = (x, x) + (x, y) + (y, x) + (y, y) \quad (a)$
$\Vert x - y \Vert ^2= (x, x) - (x, y) - (y, x) + (y, y) \quad (b)$
$\Vert x + iy \Vert ^2 = (x, x) - i(x, y) + i(y, x) + (y, y) \quad (c)$
$\Vert x - iy \Vert ^2 = (x, x) + i(x, y) + i(y, x) + (y, y) \quad (d)$
$由第一式和第二式相加, 得到平行四边形法则.$
$由(a) - (b) + i(c) - i(d) 可得极化恒定式.$
$注1：平行四边形法则的几何解释为:$
$平行四边形对角线的平方和等于4条边的平方和,$
$\qquad \Vert x+y \Vert ^2 + \Vert x-y \Vert ^2 = 2(\Vert x \Vert^2 + \Vert y \Vert ^2)$
$这是内积空间的特征性质.$
$在有了正交性的概念以后$
$如果 x \perp y, 平行四边形法则成为$
$\qquad \Vert x \Vert ^2 + \Vert y \Vert ^2 = \Vert x+y \Vert ^2 \quad (勾股定理)$
$注2：由内积可定义一个范数\Rightarrow$
$\qquad 内积空间必定是一个赋范空间.$
$再由范数诱导出的距离 \Rightarrow 它又可以成为一个距离空间.$
$问题: 反之, 是否每个线性赋范空间X都能赋以内积(x, y),$
$使原来的范数总可以表示成为 \sqrt{(x, x)}.$
$答案：一般并非如此, 而是有条件的,$
$X内赋以内积的充要条件是: X中的范数满足平行四边形法则.$

$定理3.1.10 设X是赋范空间, 如果范数满足平行四边形法则,$
$则可以在X中定义一个内积, 使得由这个内积产生的范数正好$
$是X中原来的范数.$
$证明大意: 在实的线性空间X中, 对任意的x, y \in X, 令$
$\qquad (x, y)_1 = \dfrac{1}{4}(\Vert x+y \Vert ^2 - \Vert x-y \Vert ^2) \quad (3.1.10)$
$显然$
$\qquad (x, x)_1 = \dfrac{1}{4}\Vert 2x \Vert ^2 = \Vert x \Vert ^2 \geq 0,$
$\qquad (x, y)_1 = (y, x)_1.$
$即(\cdot, \cdot)_1 满足内积定义 3.1.1 中的条件(1) 和 (2),$
$并且这个内积产生的范数就是X上原来的范数.$
$证明满足条件(4), 考虑X上三个变元 x, y, z 的函数 \varphi:$
$\varphi(x, y, z) = 4 ((x+y, z)_1 - (x, z)_1 - (y, z)_1),$
$运用范数满足平行四边形法则, 我们得到: 对于任意的$
$x, y, z \in X,$
$\qquad \varphi(x, y, z) \equiv 0,$
$即条件(4)成立. 要证明满足内积的条件(3)(齐次), 可从(4)$
$\qquad (x + y, z)_1 = (x, z)_1 + (y, z)_1$
$出发, 先证明结论对正数成立, 然后对有理数成立,$
$再加上 (\cdot, \cdot)_1 的连续性, 推出对所有的实数均有$
$\qquad (cx, y)_1 = c(x, y)_1$
$进一步复的赋范空间的内积, 对于任意的x, y \in X, 令$
$\qquad (x, y) = \dfrac{1}{4}(\Vert x+y \Vert ^2 - \Vert x-y \Vert ^2 + i \Vert x + i y \Vert ^2 - i \Vert x - i y \Vert ^2)$
$\qquad = (x, y)_1 + i(x, iy)_1$
$则由 (\cdot, \cdot)_1 的性质, 可以验证(\cdot, \cdot)是X上的内积, 且$
$\qquad \sqrt{(x, x)} = \Vert x \Vert$
$注：范数是由内积产生的充要条件：平面四边形法则成立.$
$如果这个范数可以由内积产生, 这个赋范空间即可以看作内积空间.$
$不是所有的范数均可以由内积产生.$

$例3.1.11 在 C[0, 1]中, 令$
$\qquad x(t) = 1, y(t) = t,$
$则 x + y = 1 + t, x - y = 1 - t, 于是$
$\Vert x \Vert = 1, \Vert y \Vert = 1, \Vert x+y \Vert = 2, \Vert x-y \Vert = 1,$
$\Vert x+y \Vert ^2 + \Vert x - y \Vert ^2 = 5,$
$但是 \Vert x \Vert ^2 + \Vert y \Vert^2 = 2.$
$根据平行四边形法则, C[0, 1](同样 C[a, b])中的范数不是由内积产生的.$
$即在空间C[0, 1]上不能定义一个内积, 使它产生的范数$
$为 C[0, 1]中原来的范数(按最大值定义的范数).$

$\color{blue}{3.1.4 完备的内积空间}$

$在赋范空间中我们看到空间是否完备是十分重要的, 在内$
$积空间中, 是否完备也是很重要的.$

$\color{blue}{定义 3.1.12 完备的内积空间成为 Hilbert 空间. }$
$内积空间是否完备是指内积产生的赋范空间是否完备.$
$由“完备空间的任何一个闭子空间也是完备的”，我们有：$

$定理3.1.13 设H是一个 Hilbert 空间, Y \subset H 是一个线性子空间,$
$那么Y是一个 Hilbert 空间当且仅当Y是闭的.$

$例 3.1.14 \mathbb{R}^n(\mathbb{C}^n) 是 Hilbert 空间.$

$例 3.1.15 l^2 是 Hilbert 空间.$
$对任意x, y \in l^2, x = (\xi_k), y = (\eta_k), 定义内积$
$\qquad (x, y) = \sum \limits_{k=1}^{\infty} \xi_k \overline{\eta_k} \quad (3.1.11)$
$由 H\ddot{o}lder不等式知:$
$\qquad |(x, y)| \leq (\sum \limits_{k=1}^{\infty} |\xi_k|^2)^{\frac{1}{2}} \cdot (\sum \limits_{k=1}^{\infty} |\overline{\eta_k}|^2)^{\frac{1}{2}},$
$易证 (x, y) 满足内积的4个条件, 由它产生的范数$
$\qquad \Vert x \Vert = (\sum \limits_{k=1}^{\infty} \Vert \xi_i| ^2)^{\frac{1}{2}} \quad (3.1.12)$
$是完备的(见本教材例 2.2.15 及 (2.2.30)式).$

$例 3.1.16 L^2[a, b] 是 Hilbert 空间.$
$对任意 x, y \in L^2[a, b], 定义$
$\qquad (x, y) = \int_a^b x(t) \overline{y(t)} dt \quad (3.1.13)$
$由 H\ddot{o}lder 不等式知:$
$\qquad |(x, y)| \leq | \int_a^b x(t) \overline{y(t)} dt |$
$\qquad \leq (\int_a^b |x(t)|^2 dt)^{\frac{1}{2}}(\int_a^b |y(t)|^2 dt)^{\frac{1}{2}}$
$易证 (x, y) 是 L^2[a, b] 上的内积.$
$由这个内积产生的范数$
$\qquad \Vert x \Vert = [\int_a^b |x(t)|^2 dt] ^{\frac{1}{2}} \quad (3.1.14)$
$是完备的(见本教材定理2.2.8 及 (2.2.28) 式).$
$注：不是所有的内积空间都是 Hilbert 空间.$

$例 3.1. 17 在全体连续函数组成的线性空间 X 上, 定义$
$\qquad (x, y) = \int_a^b x(t) \overline{y(t)} dt \quad (3.1. 15)$
$X 是一个内积空间, 由此内积产生的范数为$
$\qquad \Vert x \Vert = [\int_a^b |x(t)|^2 dt] ^{\frac{1}{2}} \quad (3.1.16)$
$但X在范数 \Vert \cdot \Vert 下不完备(见教材中例 1.1.17 和 (1.4.6)、(2.2.4)式).$
$X是一个内积空间, 但不是 Hilbert 空间.$
$注:空间是否完备是由全体 Cauchy 列是否都收敛决定的.$
$由距离空间完备化定理,$
$任何一个内积空间 X 都可以完备化(因为内积空间也是一个距离空间), 即:$
$不完备的内积空间X, 可以完备成为一个 Hilbert 空间 H,$
$X 等距同构于 H 中的一个稠子集.$
$在等距同构的意义下, 这样的完备化空间是唯一的.$
$例 3.1.17 中的空间X, 完备化以后成为 L^2[a, b].$