泛函分析 03.04 内积空间与Hilbert空间 - 正交基和正交列的完备性

$\color{blue}{\S 3.4 正交基和正交列的完备性}$

$\color{blue}{正交基}$

$根据上一节推论 3.3.15, 我们有:对于任意的 x \in H,$
$x 的 Fourier 级数 \sum \limits_{n=1}^{\infty} (x, e_n)e_n 都收敛.$
$问题: 级数 \sum \limits_{n=1}^{\infty} (x, e_n)e_n 是否收敛到 x?$
$答案:一般来说是否定的.$

$例 3.4.1 在 \mathbb{R}^3 中, e_1 = (1, 0, 0), e_2 = (0, 1, 0) 是 \mathbb{R}^3$
$中的标准正交列, x = (1, 1, 1) \in \mathbb{R}^3, 但是$
$\qquad (x, e_1)e_1 + (x, e_2)e_2 \neq x.$

$例 3.4.2 设 \lbrace e_n \rbrace 是 Hilbert 空间 H 中的标准正交列,$
$令 S = \lbrace e_{2n} \rbrace _{n \in \mathbb{N}}, S 是 H 中的由无穷多个元素组成的$
$标准正交列,$
$但是对于 x = e_1, 无论如何选择 \alpha_{2n}, x \neq \sum \limits_{n=1}^{\infty} \alpha_{2n} e_{2n}.$
$事实上, 若 x = e_1 = \sum \limits_{n=1}^{\infty} \alpha_{2n} e_{2n}, 对所有的m,$
$0 = (e_1, e_{2m}) = (\sum \limits_{n=1}^{\infty} \alpha_{2n} e_{2n}, e_{2m}) = (\lim \limits_{k \to \infty} \sum \limits_{n=1}^{k} \alpha_{2n} e_{2n}, e_{2m})$
$\qquad \lim \limits_{k \to \infty}(\sum \limits_{n=1}^{k} \alpha_{2n} e_{2n}, e_{2m}) = \alpha_{2m},$
$因此 x = \sum \limits_{n=1}^{\infty} \alpha_{2n}e_{2n} = 0, 矛盾.$
$这说明: 即使是由无穷多个元素组成的标准正交列, 根据$
$推论 3.3.15, x 关于这个正交列的 Fourier 级数收敛,$
$但它可能不收敛到 x.$
$原因: 这个正交列不是正交基, 或者说正交列不完备.$

$定义 3.4.3 设 \lbrace x_{\alpha} \rbrace _{\alpha \in I} 是 X 中的正交系, 如果它张成的$
$子空间的闭包是全空间 X, 则将 \lbrace x_{\alpha} \rbrace _{\alpha \in I} 称为是X的正交基.$

$例 3.4.4 在空间 \mathbb{R}^n 中$
$\qquad e_k = (0, 0, \cdots, 0, {^1_k}, 0, \cdots, 0), k = 1, 2, \cdots, n.$
$是 \mathbb{R}^n 中的标准正交基.$

$例 3.4.5 在 l^2 中$
$\qquad e_n = (0, 0, \cdots, 0, {^1_n}, 0, \cdots), n = 1, 2, \cdots$
$是 l^2 的标准正交基.$
$证明: 由 l^2 中定义的内积:$
$对任意 x, y \in l^2, x = \lbrace \xi_k \rbrace, y = \lbrace \eta_k \rbrace, 定义$
$\qquad (x, y) = \sum \limits_{k=1}^{\infty} \xi_k \overline{\eta_k}$
$(1) 易验证 \lbrace e_n \rbrace 是 l^2 中的标准正交系.$
$(2) 下面证明是标准正交基.$
$按照正交基的定义只需证明$
$\qquad 正交系 \lbrace e_n \rbrace 张成的子空间的闭包是全空间.$
$即证明全空间H包含在由 \lbrace e_n \rbrace 张成的子空间的闭包中.$
$于是我们要证明:$
$对于任意的 x \in H, 存在 \lbrace x_n \rbrace \subseteq span \lbrace e_i \rbrace _{i=1}^{\infty}, 使得$
$\qquad x_n \to x (n \to \infty)$
$事实上, 对于 x \in H, x = (\xi_1, \cdots, \xi_k, \cdots), 令$
$\qquad x_n = \sum \limits_ {k=1}^{n} \xi_k e_k$
$则$
$\qquad \Vert x_n - x \Vert = (\sum \limits_{k=n+1}^{\infty} \xi_k e_k, \sum \limits_{k=n+1}^{\infty} \xi_k e_k)^{\frac{1}{2}}$
$\qquad = (\sum \limits_{k=n+1}^{\infty} |\xi_k|^2)^{\frac{1}{2}} \to 0 (n \to \infty),$
$即 x 可以由 \lbrace x_n \rbrace 的线性组合逼近.$
$所以 H 包含在由 \lbrace e_n \rbrace 张成的子空间的闭包中.$
$即 \lbrace e_n \rbrace 是一个标准正交基.$

$\color{blue}{3.4.2 正交列的完备性}$

$定义 3.4.6 设 X 是内积空间, \lbrace e_n \rbrace 是X中的标准正交列,$
$x \in X. 若$
$\qquad \sum \limits_{k=1}^{\infty} |(x, e_k)|^2 = \Vert x \Vert ^2 \quad (3.4.1)$
$称 x 关于 \lbrace e_n \rbrace 的 Parseval 等式成立.$
$如果对于任意的x \in H, Parseval 等式成立, 则称 \lbrace e_n \rbrace 是完备的.$
$注1：在二维欧氏空间中, Parseval 等式就是勾股定理.$
$注2：以下证明在 Hilbert 空间中,$
$x 关于 \lbrace e_n \rbrace 的 Fourier 级数收敛到x, 当且仅当$
$x关于 \lbrace e_n \rbrace 的 Parseval 等式成立.$

$定理 3.4.7 设 \lbrace e_n \rbrace 是 Hilbert 空间 H 中的一个标准正交列,$
$则下列叙述是等价的:$
$(1) \lbrace e_n \rbrace ^{\perp} = \lbrace 0 \rbrace (即 \lbrace e_n \rbrace 是完全的);$
$(2) 对所有的 x \in H, x = \sum \limits_{k=1}^{\infty} (x, e_k) e_k$
$(即 x 的 Fourier 级数收敛到 x);$
$(3)\overline{span} \lbrace e_n \rbrace = H$
$(即 \lbrace e_n \rbrace 是 H 中的一个标准正交基);$
$(4) 对所有的 x \in H, 由 \Vert x \Vert ^2 = \sum \limits_{k=1}^{\infty} |(x, e_k)|^2,$
$即 \lbrace e_n \rbrace 是完备的, 亦即对于任意的 x \in H, Parseval 等式成立.$
$证明: (1) \Rightarrow (2) 设 x \in H, 令 y = x - \sum \limits_{k=1}^{\infty} (x, e_k)e_k.$
$已知: \lbrace e_n \rbrace ^{\perp} = \lbrace 0 \rbrace,$
$要证: y = 0.$
$对任何 m \in \mathbb{N}, 根据内积的连续性,$
$\qquad (y, e_m) = (x, e_m) - (\sum \limits_{n=1}^{\infty}(x, e_n)e_n, e_m)$
$\qquad = (x, e_m) - \lim \limits_{k \to \infty}(\sum \limits_{n=1}^k (x, e_n)e_n, e_m)$
$\qquad = (x, e_m) - \lim \limits_{k \to \infty}(\sum \limits_{n=1}^{k}(x, e_n)(e_n, e_m))$
$\qquad = (x, e_m) - (x, e_m) = 0$
$由于 \lbrace e_n \rbrace ^{\perp} = \lbrace 0 \rbrace,$
$所以有 y = 0, 即 x = \sum \limits_{k=1}^{\infty} (x, e_k)e_k.$
$(2) \Rightarrow (3) 根据正交基的定义, 只需证明:$
$由条件 x = \sum \limits_{k=1}^{\infty}(x, e_k)e_k, 可推出 \overline{span} \lbrace e_n \rbrace = H,$
$即对任何 x \in H, 要证明 x \in \overline{span} \lbrace e_n \rbrace.$
$因为对于任何的 x \in H, 由条件 (2)$
$\qquad x = \sum \limits_{n=1}^{\infty}(x, e_n)e_n = \lim \limits_{k \to \infty} (\sum \limits_{n=1}^{k} (x, e_n)e_n),$
$而\quad \sum \limits_{n=1}^k (x, e_n)e_n \in span \lbrace e_n \rbrace,$
$所以 x \in \overline{span} \lbrace e_n \rbrace, 即 \overline{span} \lbrace e_n \rbrace = H.$
$(3) \Rightarrow (1) 即证“\overline{span}\lbrace e_n \rbrace = H \Rightarrow \lbrace e_n \rbrace ^{\perp} = \lbrace 0 \rbrace ”.$
$只需证明对任意 y \in \lbrace e_n \rbrace ^{\perp}, 有 y = 0.$
$事实上,$
$(i) 若 y \in \lbrace e_n \rbrace ^{\perp}, 则 (y, e_n) = 0 (\forall n \in \mathbb{N}), 于是$
$e_n \in \lbrace y \rbrace ^{\perp} (\forall n \in \mathbb{N}), 即 span \lbrace e_n \rbrace \subset \lbrace y \rbrace ^{\perp}.$
$(ii)根据内积空间中一集合的正交补是一闭子空间, 知$
$\lbrace y \rbrace ^{\perp} 是一个闭子空间.$
$(iii) 于是 \overline{span} \lbrace e_n \rbrace \subset \lbrace y \rbrace ^{\perp}.$
$(iv) 由条件 \overline{span} \lbrace e_n \rbrace = H, 即 \lbrace y \rbrace ^{\perp} = H.$
$于是(y, y) = 0, 所以 y = 0.$
$以上的证明说明命题(1)到(3)是等价的.$
$(2) \Rightarrow (4)对所有的 x \in H, 要证明$
$\qquad x = \sum \limits_{k=1}^{\infty} (x, e_k)e_k \Rightarrow \Vert x \Vert^2 = \sum \limits_{k=1}^{\infty} |(x, e_k)|^2$
$由条件对于任意的x \in H, x = \sum \limits_{k=1}^{\infty}(x, e_k)e_k, 考虑运用$
$内积的性质和范数的连续性来证明.$
$因为对所有的 x \in H, x = \sum \limits_{k=1}^{\infty}(x, e_k)e_k, 于是$
$\qquad \Vert x \Vert ^2 = \Vert \sum \limits_{k=1}^{\infty}(x, e_k)e_k \Vert ^2 = \lim \limits_{k \to \infty} \Vert \sum \limits_{k=1}^{n}(x, e_k)e_k \Vert ^2$
$\qquad = \lim \limits_{n \to \infty} \sum \limits_{k=1}^{n} |(x, e_k)|^2 = \sum \limits_{k=1}^{\infty} |(x, e_k)|^2$
$(这里用到的是范数的连续性), 因此 \lbrace e_n \rbrace 是完备的.$
$(4) \Rightarrow (1)即证明“对\forall x \in H, \Vert x \Vert ^2 = \sum \limits_{k=1}^{\infty} |(x, e_k)|^2$
$\Rightarrow \lbrace e_n \rbrace ^{\perp} = \lbrace 0 \rbrace”, 即完备推出完全.$
$只要证明下面事实:若 x \in H, 满足 (x, e_n) = 0, n = 1, 2, \cdots, 则推出 x = 0.$
$事实上, 由已知的 Parseval 等式(3.4.1)成立.因为$
$(x, e_n) = 0(n = 1, 2, \cdots),所以$
$\qquad \Vert x \Vert ^2 = \sum \limits_{k=1}^{\infty} |(x, e_k)|^2 = 0,$
$于是 x = 0. 结论得证.$
$注1：我们看到,$
$当 \lbrace e_n \rbrace 是标准正交基时, Bessel 不等式 (3.3.4)中$
$的“小于等于号”成为等号,即成为 Parseval 等式(3.4.1).$
$注2：如果 \lbrace e_n \rbrace 是 Hilbert 空间的标准正交基, 则x$
$关于 \lbrace e_n \rbrace 的 Fourier 级数 \sum \limits_{n=1}^{\infty}(x, e_n)e_n收敛到x.$
$注3：在无穷维空间, 确定一组元素是否正交较为容易, 但$
$是要确定一组正交系是否是空间的正交基相对较为困难.$

$\color{blue}{3.4.3 标准正交基的例}$

$定理 3.4.8 三角函数系:$
$\qquad \lbrace e_n \rbrace = \lbrace \dfrac{1}{\sqrt{2 \pi}}, \dfrac{1}{\sqrt{\pi}} \cos t, \dfrac{1}{\sqrt{\pi}} \sin t, \cdots, \dfrac{1}{\sqrt{\pi}} \cos kt, \dfrac{1}{\sqrt{\pi}} \sin kt, \cdots \rbrace,$
$是L^2[-\pi, \pi]中的一组标准正交基.$
$分析:前面已在命题 3.3.7 中证明了 \lbrace e_n \rbrace 是标准正交系.$
$根据定理 3.4.7, 只要证明 span \lbrace e_n \rbrace 在 L^2[-\pi, \pi] 中稠密即可.$
$证明:(1)由定理 2.2.9 及定理后的注知:连续函数在L^2[-\pi, \pi]中稠密.$
$即对于任意的 x \in L^2[-\pi, \pi] 及 \varepsilon > 0, 都存在周期为$
$2 \pi 的连续函数 y(t), 使得$
$\qquad \Vert x(t) - y(t) \Vert _{L^2} < \dfrac{\varepsilon}{2},$
$(2) 对于上面的连续函数 y(t) 以及 \varepsilon > 0,$
$根据 Stone-Weierstrass 逼近定理, 存在三角“多项式”在[-\pi, \pi]上一致连续到y(t)$
(参阅 Walter Rudin, “Principles of Mathematical Analysis” p.190).
$即存在三角“多项式”$
$T(t) = a_0 + \sum \limits_{k=1}^m a_k \cos kt + b_k \sin kt$
$使得\quad \Vert y(t) - T(t) \Vert _{L^2} < \dfrac{\varepsilon}{2}.$
$(3)于是$
$\Vert x(t) - T(t) \Vert _{L^2} \leq \Vert x(t) - y(t) \Vert _{L^2} + \Vert y(t) - T(t) \Vert_{L^2} < \varepsilon.$
$即全体三角“多项式”(span \lbrace e_n \rbrace)在 L^2[-\pi, \pi]中稠密.$
$即 \lbrace e_n \rbrace 是 L^2[-\pi, \pi] 中的一组标准正交基.$
$注1：这样对于函数x(t) \in L^2[-\pi, \pi],都有$
$\qquad x(t) = \sum \limits_{k=1}^{\infty}(x, e_k)e_k = \dfrac{a_0}{2} + \sum \limits_{k=1}^{\infty} a_k \cos kt + b_k \sin kt,$
$且 \Vert x \Vert ^2 = \sum \limits_{k=1}^{\infty} |(x, e_k)|^2.$
$注2：这里的相等(=), 是在L^2空间中“积分意义下的平方平均”收敛,即当 n \to \infty 时,$
$\int_{-\pi}^{\pi} |x(t) - (\dfrac{a_0}{2} + \sum \limits_{k=1}^n a_k \cos kt + b_k \sin kt)|^2 dt \to 0, n \to \infty.$
$这与数学分析中经典的 Fourier 级数的收敛意义不同,$
$数学分析中 Fourier 级数的收敛是指逐点收敛.$
$这里的收敛是指在 L^2 空间中按范数收敛.$

$注3：1913年, 鲁津猜测函数 x(t) \in L^2 的 Fourier 级数几乎处处收敛到 x(t),$
$直到1966年, L.Carleson 才证明了鲁津猜测是正确的.$
$即对于 \forall x(t) \in L^2,$
$\qquad \lim \limits_{n \to \infty}(\dfrac{a_0}{2} + \sum \limits_{k=1}^{n} a_k \cos kt + b_k \sin kt) = x(t) \quad (3.4.2)$
$几乎处处成立.$
$注4：Hilbert 空间 L^2 中的正交系$
$不仅可以由定理3.4.8给出的“三角函数系”构成,$
$也可以由一些更容处理的函数系(比如多项式)组成,$
$例3.3.4中的 Legendre 多项式就是 L^2[-1, 1] 中的正交基.$
$注5：一个 Hilbert 空间中可以有无穷多组正交基,$
$适当地选择正交基是十分重要的, 不同的问题要选择不同的正交基.$