小波分析的预备知识

本章提供了学习傅里叶分析和小波分析的基础知识, 主要包括Hilbert 空间几何学以
及极限与积分换序的条件. 希尔伯特空间中的许多概念和线性代数中的一些概念有类似
之处, 读者可以进行比照以加深理解.

1.1 内积空间

在欧几里得空间上，两个向量 和 的标准内积（也称为点积或数量积）可以定义为：

这是欧几里得空间中最常见的内积定义，它基于向量的分量之间的乘积之和。

这种内积的定义与欧几里得空间中的向量长度度量相关联。根据勾股定理，向量的长度（或称为模）可以通过其各分量的平方和再开平方来计算。而这个平方和的部分正是内积的定义所涉及的。

具体来说，对于中的向量，其长度定义为：

这个定义与我们之前提到的内积定义是一致的。内积定义中的每一项实际上是向量各分量的乘积，因此与向量的长度度量是密切相关的。

在复数空间中，即三维复向量空间中，内积可以类似地定义为：

其中表示的共轭复数。

这个定义的内积保留了欧几里得空间的内积的基本性质，但在处理复向量时，它考虑了复数的共轭关系。这样的定义在量子力学等领域中经常会遇到，因为复数和复向量在这些领域中具有重要的意义。

共轭的引入确保了复向量的长度是实的且非负的，这与实数向量的长度的性质是一致的。在实数空间 和复数空间中，内积的定义和长度（模）的计算都可以通过相应的内积定义来实现，保证了向量空间的性质和度量的一致性。

这种定义的内积和长度对于许多数学和物理问题都是非常重要的，因为它们提供了一种通用的框架，可以用来描述向量空间中的向量之间的关系，并且可以推广到更高维度的情况。

本章的目的是将内积的概念推广到更一般的集合上，这个集合可以是相当广泛的线性空间。在这个推广中，特别感兴趣的是信号，也就是时间的函数，在线性空间上的内积。这种推广可以让我们在更抽象和广泛的背景下考虑内积的概念，并将其应用于更多的情况，包括信号处理、波形分析等领域。

在信号处理中，内积可以用来衡量信号之间的相似度或相关性，或者用来定义信号空间中的正交基。这对于许多应用非常重要，包括通信、图像处理、音频处理等领域。因此，推广内积的概念以涵盖信号空间是非常有意义的。

根据你提供的定义，一个复线性空间 \( V \) 上的内积被称为满足以下条件：

1. 非负性：对于任意 \( u, v \in V \)，内积 \( \langle v, v \rangle \) 是非负的，并且只有当 \( v = 0 \) 时等于零。
2. 共轭对称性：对于任意 \( u, w \in V \)，内积 \( \langle u, w \rangle \) 等于其共轭 \( \langle w, u \rangle \)。
3. 齐次性：对于任意 \( v \in V \) 和任意复数 \( c \in \mathbb{C} \)，内积满足 \( \langle cv, w \rangle = c \langle v, w \rangle \)。
4. 可加性：对于任意 \( u, v, w \in V \)，内积满足 \( \langle u + v, w \rangle = \langle u, w \rangle + \langle v, w \rangle \)。

如果一个线性空间满足这些性质，那么它被称为一个内积空间。

另外，由这些性质还可以得到以下推论：

1. 双线性性：内积在两个参数上是线性的，即对于任意 \( u, v, w \in V \) 和任意复数 \( c, d \in \mathbb{C} \)，有
   \[ \langle cu + dv, w \rangle = c \langle u, w \rangle + d \langle v, w \rangle \] 
   和
   \[ \langle u, cw + dw \rangle = c \langle u, w \rangle + d \langle u, w \rangle \]。

2. 共轭齐次性：对于任意 \( v, w \in V \) 和任意复数 \( c \in \mathbb{C} \)，有
   \[ \langle v, cw \rangle = \overline{c} \langle v, w \rangle \]。

在 \( n \) 维复线性空间 \( \mathbb{C}^n \) 中，我们可以定义如下的内积：

\[ \langle v, w \rangle = \sum_{i=1}^{n} v_i \overline{w_i} \]

其中，\( v = (v_1, v_2, \ldots, v_n) \) 和 \( w = (w_1, w_2, \ldots, w_n) \) 是 \( \mathbb{C}^n \) 中的向量。

这个定义满足内积的所有条件：
1. 非负性：对于任意 \( v \in \mathbb{C}^n \)，\( \langle v, v \rangle \) 是非负的，且只有当 \( v = 0 \) 时等于零。
2. 共轭对称性：\( \langle v, w \rangle = \sum_{i=1}^{n} v_i \overline{w_i} = \overline{\sum_{i=1}^{n} w_i \overline{v_i}} = \overline{\langle w, v \rangle} \)。
3. 齐次性：对于任意复数 \( c \)，\( \langle cv, w \rangle = \sum_{i=1}^{n} cv_i \overline{w_i} = c \sum_{i=1}^{n} v_i \overline{w_i} = c \langle v, w \rangle \)。
4. 可加性：\( \langle u + v, w \rangle = \sum_{i=1}^{n} (u_i + v_i) \overline{w_i} = \sum_{i=1}^{n} u_i \overline{w_i} + \sum_{i=1}^{n} v_i \overline{w_i} = \langle u, w \rangle + \langle v, w \rangle \)。

因此，\( \mathbb{C}^n \) 成为一个内积空间。这是一个非常经典的内积空间，常用于描述复数向量的性质和相互关系。

在 \( n \) 维实线性空间 \( \mathbb{R}^n \) 中，我们可以定义如下的内积：

\[ \langle v, w \rangle = \sum_{i=1}^{n} v_i w_i \]

其中，\( v = (v_1, v_2, \ldots, v_n) \) 和 \( w = (w_1, w_2, \ldots, w_n) \) 是 \( \mathbb{R}^n \) 中的向量。

这个定义满足内积的所有条件：
1. 非负性：对于任意 \( v \in \mathbb{R}^n \)，\( \langle v, v \rangle \) 是非负的，且只有当 \( v = 0 \) 时等于零。
2. 对称性：\( \langle v, w \rangle = \sum_{i=1}^{n} v_i w_i = \sum_{i=1}^{n} w_i v_i = \langle w, v \rangle \)。
3. 齐次性：对于任意实数 \( c \)，\( \langle cv, w \rangle = \sum_{i=1}^{n} cv_i w_i = c \sum_{i=1}^{n} v_i w_i = c \langle v, w \rangle \)。
4. 可加性：\( \langle u + v, w \rangle = \sum_{i=1}^{n} (u_i + v_i) w_i = \sum_{i=1}^{n} u_i w_i + \sum_{i=1}^{n} v_i w_i = \langle u, w \rangle + \langle v, w \rangle \)。

因此，\( \mathbb{R}^n \) 成为一个内积空间。这是一个非常经典的内积空间，常用于描述实数向量的性质和相互关系。

在 \( \mathbb{C}^2 \) 中，我们可以定义如下的内积：

\[ \langle v, w \rangle = v^\dagger A w \]

其中，\( v = (v_1, v_2) \) 和 \( w = (w_1, w_2) \) 是 \( \mathbb{C}^2 \) 中的向量，\( A \) 是一个正定的 Hermite 矩阵，\( v^\dagger \) 表示向量 \( v \) 的共轭转置。

这个定义满足内积的所有条件：
1. 非负性：对于任意 \( v \in \mathbb{C}^2 \)，\( \langle v, v \rangle = v^\dagger A v \) 是非负的，且只有当 \( v = 0 \) 时等于零。
2. 共轭对称性：\( \langle v, w \rangle = v^\dagger A w = (v^\dagger A w)^\dagger = w^\dagger A^\dagger v = \overline{\langle w, v \rangle} \)。
3. 齐次性：对于任意复数 \( c \)，\( \langle cv, w \rangle = (cv)^\dagger A w = c v^\dagger A w = c \langle v, w \rangle \)。
4. 可加性：\( \langle u + v, w \rangle = (u + v)^\dagger A w = u^\dagger A w + v^\dagger A w = \langle u, w \rangle + \langle v, w \rangle \)。

因此，\( \mathbb{C}^2 \) 成为一个内积空间。

更一般地，对于 \( n \) 维复线性空间 \( \mathbb{C}^n \)，我们可以定义类似的内积，其中内积矩阵 \( A \) 是一个正定的 Hermite 矩阵。这种定义的内积空间不仅局限于二维情况，而是适用于任意维度的复线性空间。

内积空间是比线性赋范空间更为特殊的一类空间，因为内积可以自然诱导出范数，进一步地，又可以由范数诱导出距离或者度量。这种结构在数学和物理学中具有重要的应用和意义。

在内积空间中，我们可以定义一个与内积有关的范数，称为诱导范数。诱导范数可以通过内积自然地诱导出来，它定义为：

\[ \|v\| = \sqrt{\langle v, v \rangle} \]

根据诱导范数，我们可以引入内积空间中任意两个元素 \( v \) 和 \( w \) 之间的距离，通常可以使用诱导范数定义距离：

\[ d(v, w) = \|v - w\| \]

在内积空间 \( V \) 中，如果存在一个点列 \( \{v_k\}_{k=1}^{\infty} \) 且 \( v \in V \)，使得当 \( k \to \infty \) 时，\( \|v_k - v\| \to 0 \)，则称点列 \( \{v_k\}_{k=1}^{\infty} \) （依范数 \( \|\cdot\| \)）收敛于 \( v \)，记为 \( v_k \to v \)，\( k \to \infty \)。如果对于任意 \( \epsilon > 0 \)，存在一个正整数 \( N \)，使得当 \( m, n > N \) 时，有 \( \|v_m - v_n\| < \epsilon \)，则称点列 \( \{v_k\}_{k=1}^{\infty} \) 是内积空间 \( V \) 中的 Cauchy 点列。

如果内积空间 \( V \) 中的每一个 Cauchy 点列都是收敛点列，则称 \( V \) 是完备的。完备的内积空间称为 Hilbert 空间。Hilbert 空间具有很多重要的性质，包括极限的存在性，这使得在 Hilbert 空间中研究分析问题更加方便和准确。

相比之下，有理数域 \( \mathbb{Q} \) 中的柯西列不一定收敛于 \( \mathbb{Q} \) 中的元素，这说明有理数域中存在“孔洞”，这样的空间在分析问题时会带来不便。而完备性可以保证内积空间不存在这样的问题，这是 Hilbert 空间的一个重要性质。

 

1.2 无限维Hilbert 空间

在讨论无限维 Hilbert 空间之前，先来考虑一个信号的例子。信号通常可以表示为函数 \( f(t) \)，其中 \( t \) 表示时间，\( f(t) \) 表示在时间 \( t \) 时刻的信号密度。通常，时间 \( t \) 可以在区间 \([a, b]\) 上变化，表示信号的持续时间。这里 \( a \) 可能是负无穷，\( b \) 可能是正无穷。

在信号处理中，我们通常将这样的信号视为一个函数空间中的元素。而在这个函数空间中，我们可以定义内积和范数，从而得到一个内积空间。这种内积空间通常是 Hilbert 空间的一个例子。

然而，与有限维空间不同，这些函数空间通常是无限维的。这意味着这些空间中的向量可以有无限多个分量，例如，我们可以将一个信号看作是一个在整个时间区间上的函数，这是一个无限维的向量。

无限维 Hilbert 空间在分析信号和波形时特别有用，因为它们允许我们更精确地描述和分析连续的信号和波形。在这样的空间中，我们可以定义诱导的范数，引入内积，进而定义距离和度量，从而使得我们能够更加准确地处理信号处理和分析问题。

在定义 1.4 中，\( L^2([a, b]) \) 表示定义在区间 \([a, b]\) 上所有平方可积函数的集合。换句话说，\( L^2([a, b]) \) 是由满足以下条件的函数组成的集合：

1. 函数 \( f(t) \) 在区间 \([a, b]\) 上有定义；
2. 函数 \( f(t) \) 在区间 \([a, b]\) 上的平方可积，即积分 \( \int_{a}^{b} |f(t)|^2 dt \) 是有限的。

容易证明 \( L^2([a, b]) \) 具有以下性质：

1. \( L^2([a, b]) \) 是复数域 \( \mathbb{C} \) 上的一个线性空间。
2. \( L^2([a, b]) \) 是无限维的线性空间。例如，\( 1, t, t^2, t^3, \ldots \) 是 \( L^2([0, 1]) \) 中的线性无关组。

在 \( L^2([a, b]) \) 中可以定义如下的内积：对于任意 \( f, g \in L^2([a, b]) \)，内积定义为

\[ \langle f, g \rangle = \int_{a}^{b} f(t) \overline{g(t)} dt \]

其中 \( \overline{g(t)} \) 表示函数 \( g(t) \) 的复共轭。这个定义满足内积的所有性质，因此 \( L^2([a, b]) \) 构成一个 Hilbert 空间。

注 1.5 提到 \( L^2([a, b]) \) 空间不仅包含连续函数，还包含不连续的函数。本讲义中的例子通常是连续的或者在有限个间断点不连续的函数。在这种情况下，对积分的理解可以使用基本的 Riemann 积分。

然而，实际上 \( L^2 \) 空间的定义可以包含具有无穷个间断点的函数，此时必须使用 Lebesgue 积分。这种情况下，对于函数的积分要使用更广义的 Lebesgue 积分来定义。这是因为 Lebesgue 积分能够更好地处理具有无穷间断点的函数，并且可以更准确地描述函数的积分值。

从物理意义上来说，\( L^2([a, b]) \) 空间中的函数表示的信号的总能量是有限的。大部分实际应用中的信号通常满足这一条件。

关于 \( L^2([a, b]) \) 完备性的证明可以在泛函分析的教材中找到更详细的讨论。

确实，内积的非负性是 \( L^2 \) 空间中定义内积的一个重要性质。要证明这一点，需要借助如下结论：

\[ \int_a^b |f(t)|^2 dt \geq 0 \]

这个结论的意义在于，函数 \( f(t) \) 的平方在区间 \([a, b]\) 上的积分是非负的。这是因为平方函数始终非负，因此对于任何 \( t \)，\( |f(t)|^2 \geq 0 \)，所以在整个区间上的积分也必定非负。

因此，根据内积的定义：

\[ \langle f, f \rangle = \int_a^b f(t) \overline{f(t)} dt = \int_a^b |f(t)|^2 dt \geq 0 \]

这表明了 \( L^2 \) 空间中所定义内积的非负性条件得到了满足。

1.3 正交与正交投影

1.4 线性算子及其伴随算子

1.5 极限与积分交换顺序