Wavelet(续)

source: Wavelet Methods for Time Series Analysis

小波的本质

• wavelets，中文翻译成小波，其实它就是 small waves 的意思，那什么是大波呢， 正弦信号就是 big waves
• 满足以下条件的实函数（记作，$\psi(\cdot)$）我们就称之为小波：
  
  • $\psi(\cdot)$ 的积分为零：
    $$\int^\infty_{-\infty} \psi(u)du = 0$$
  • $\psi(\cdot)$ 平方的积分为1：
    $$\int^\infty_{-\infty} \psi^2(u)du = 1$$
• 那么为什么说满足以上条件就是 wavelet呢？
  
  • 假设上面的二式成立，那么对于任何满足 $0<\epsilon<1$ 的 $\epsilon$ , 一定存在一个有限区间 $[-T, T]$ 使得
    $$\int^T_{-T} \psi^2(u)du < 1-\epsilon$$
  • 当 $\epsilon$ 非常接近零的时候，$\psi(\cdot)$ 在 $[-T, T]$ 以外的区间上，几乎是为零的：因为它的非零的部分基本上已经局限在 $[T, -T]$ 这个区间上了。因为区间 $[-T, T]$ 的长度相较于整个实轴 $(-\infty, \infty)$ 来说是非常小，小到可以忽略的，所以可以非零的活动可以被认为是在很小的时间段里面。这就是 small 的原因。
  • 同时对于式一来说，我们可以看出正的信号都会被负的信号 cancel掉，所以 $\psi(\cdot)$ 是一个 wave
  • 式一和式二总体就能看出这是 small wave 的。

小波分析（Wavelet Analysis）

• wavelets tell us about variations in local averages
• 先考虑一些基本的：
  
  • 记 $x(\cdot)$ 为一个信号，t 为时间
  • 那么在区间 $[a, b]$ 上 $x(\cdot)$ 的均值为： $\frac1{b-a}\int^b_a x(u)du = \alpha (a,b)$
  • 如果将 $a, b$ 用 $\lambda, t$ 来表示的话，可以写成
    $$A(\lambda, t) = \alpha (t-\frac \lambda2, t+\frac \lambda2) = \frac1\lambda \int^{t+\frac \lambda2}_{t-\frac \lambda2} x(u)du$$
  • 其中，$\lambda = b-a$ 称作 scale
  • $t = \frac{(a+b)}2$ 是时间段的中心
  • 所以，$A(\lambda, t)$ 是 $x(\cdot)$ 在 t 时刻处 $\lambda$ 尺度下的均值。
• 很显然，相较于均值本身，我们更关心不同尺度下均值的变化。所以这里我们就可以将小波与均值的变换联系起来。
  
  • 我们可以将 $A(\lambda, t)$ 的变化表示为：
    $$D(1, t-\frac12) = A(1, t) - A(1, t-1) = \int^{t+\frac 12}_{t-\frac 12} x(u)du - \int^{t-\frac 12}_{t-\frac 32} x(u)du$$
  • 或者：
    $$D(1, t) = A(1, t+\frac12) - A(1, t-\frac12) = \int^{t+1}_{t} x(u)du - \int^{t}_{t-1} x(u)du$$
  • 上面的scale都默认为1，如果换成一般的 scale $\lambda$ 的话，可得：
    $$D(\lambda, t) = A(\lambda, t+\frac \lambda2) - A(\lambda, t- \frac \lambda2) = \frac1\lambda\int^{t+\lambda}_{t} x(u)du - \frac1\lambda\int^{t}_{t-\lambda} x(u)du$$
• 一种典型的小波就是 Haar wavelet：
  $$\psi^{(H)}(u) = \lbrace \begin{align*} -\frac1{\sqrt2}, & \; -1<u \le 0 \\ \frac1{\sqrt2}, & \; 0<u \le 1 \\ 0, & \; others \end{align*}$$
  
  • 我们可以用 Haar 小波 来提取时间 t 处单位 尺度的差值：
    $$\int^\infty _{-\infty} \psi^H(u)x(u) du = W^H(1,0)$$
  • 要提取其他 t 处的信息， 只需要平移 $\psi^H(u)$:
    $$\psi^H_{1,t}(u) = \psi^H(u-t)$$
    $$\psi^{(H)}_{1,t}(u) = \lbrace \begin{align*} -\frac1{\sqrt2}, & \; t-1<u \le t \\ \frac1{\sqrt2}, & \; t<u \le t+1 \\ 0, & \; others \end{align*}$$
  • 要提取其他尺度 $\lambda$ 处的信息：
    $$\psi^{(H)}_{\lambda,t}(u) = \frac1{\sqrt \lambda} \psi^H(\frac{u-t}{\lambda}) = \lbrace \begin{align*} -\frac1{\sqrt2}, & \; t-\lambda<u \le t \\ \frac1{\sqrt2}, & \; t<u \le t+\lambda \\ 0, & \; others \end{align*}$$
  • 不同 $\lambda, t$ 的集合，我们可以得到 $x(\cdot)$ 在不同尺度下的变化，这就是 $x(\cdot)$ 的 Haar continuous wavelet transform (CWT) ：
    $$W(\lambda, t) = \int^\infty_{-\infty} \psi_{\lambda,t}(u)x(u)du, where \; \psi_{\lambda, t}(u) = \frac1{\sqrt \lambda}\psi(\frac{u-t}\lambda)$$
• 事实上，$W(\lambda, t)$ 和 $x(t)$ 是等价的，我们可以推算出：
  $$\int^{\infty}_{-\infty} x^2(t)dt = \frac1{C_{\psi}}\int^\infty_0 [\int^{\infty}_{-\infty} W^2(\lambda, t)dt]\frac{d\lambda}{\lambda^2}$$
  
  • 等式左边 为 $x(\cdot)$ 的能量（energy）
  • 等式右边是 能量密度( energy density) 在 $\lambda , t$ 上的积分

Wavelet Sum up

(http://www2.isye.gatech.edu/~brani/wp/kidsA.pdf)
- Computational complexity of the fast Fourier transformation is $O(n \cdot log_2(n))$. For the fast wavelet, it’s $O(n)$
- one can do data smoothing by thresholding the wavelet coefficients and then returning the thresholded code to the “time domain.”