傅立叶变换与小波变换

参考书籍《小波分析导论》

稀疏表示：在给定的超完备字典中用尽可能少的原子来表示信号，可以获得信号更为简洁的表示方式，从而使我们更容易地获取信号中所蕴涵的信息，更方便进一步对信号进行加工处理，如压缩、编码等。

引言

在1873年，P.Du Bois-Reymond构造了一个实变量$x$的$2\pi$周期连续函数，它的Fourier级数在给定的点是发散的。如果Fourier的断言是正确的，它也不是Fourier自己预想的那种意义。
为了解决这个问题，逐渐产生了几种解决方法：

修改传统傅立叶变换（传统FT变换）

修改$f$的Fourier级数收敛为收敛于$f$的二次平均意义下。
$X(t)={\sum }_{k=-\infty }^{+\infty }{a}_k{e}^{jk{w}_{0}t}$
这里重新定义量‘=’的含义，这里的‘=’指左右均方误差相等

Fourier变换

设$f(t)$在全实轴IR上是以$2\pi$为周期的函数，$f(t+2\pi )=f(t)$，且在$(0,2\pi )$上平方可积，其中，$|f(t){|}^2=f(t)\overline{f(t)}$。
在全实轴上以$2\pi$为周期且在$(0,2\pi )$上平方可积函数全体组成的空间记为$L^2(0,2\pi )$。
在空间$L^2(0,2\pi )$上平方可积函数全体组成的空间记为$L^2(0,2\pi )$。
在空间$L^2(0,2\pi )$中，定义内积
$<f,g{>}^{\ast }={\int }_0^{2\pi }f(t)\overline{g(t)}dt$
这里，上划一线是求共轭的意思
至于在复数域时为什么要对一个函数求共轭，举个简单的例子说明：
当我们求复数x=a+bi的二范数时，也是要求共轭的，$||x|{|}_2=x\overline{x}=(a+bi)(a-bi)=a^2+b^2$
干脆直接理解为两个复函数相同位置上的乘积（以2范数形式的乘积）的求和，我感觉也行吧。
对于$f(t)\in L^2(0,2\pi )$，$f(t)$的Fourier级数为：
$f(t)={\sum }_{k=-\infty }^{\infty }{c}_k{e}^{ikt}$
设${\phi }_k(t)=e^{ikt},k=-M,...0,...,N$
则 { φ k ( t ) } \{\varphi_k(t)\} {φk​(t)}在空间$L^2(0,2\pi )$的内积下是两两正交的。
使用${\phi }_k(t)$作为基函数对$f(t)$进行在空间$L^2(0,2\pi )$中的最佳平方逼近。
$S(t)={\sum }_{k=-M}^N{c}_k{e}^{ikt}$
其中：
$c_k=\frac{<f,{\phi }_k{>}^{\ast }}{<{\phi }_k,{\phi }_k{>}^{\ast }}=\frac{1}{2\pi }{\int }_0^{2\pi }f(t)e^{-ikt}dt$
容易证明：
如果是在空间$L^2(0,2\pi )$，则$S(t)$平方收敛于$f(t)$，即
$li{m}_{M,N\to \infty }||f(t)-S(t)|{|}_{t\in 0-2\pi }=0$
这里证明一下$<{\phi }_i,{\phi }_j>$只有在$i==j$的时候才不为0：
${\int }_0^{2\pi }{e}^{ikt}{e}^{-ikt}dt={\int }_0^{2\pi }{e}^{0}dt={\int }_0^{2\pi }1dt=2\pi$
其他情况下积分都是0。
为了方便定义，我们把$\frac{1}{2\pi }$去掉，定义傅立叶变换为：
f ^ ( w ) = F { f ( t ) } = ∫ − π π e − i w t f ( t ) d t \hat{f}(w)=F\{f(t)\}=\int_{-\pi}^{\pi}e^{-iwt}f(t)dt f^​(w)=F{f(t)}=∫−ππ​e−iwtf(t)dt
当傅立叶级数$c_k=\frac{<f,{\phi }_k{>}^{\ast }}{<{\phi }_k,{\phi }_k{>}^{\ast }}=\frac{1}{2\pi }{\int }_0^{2\pi }f(t)e^{-ikt}dt$满足Bessel不等式时，
即${\sum }_{k=-\infty }^{\infty }|c_k{|}^2<=||f|{|}_{(0,2\pi )}^2$
定义逆傅立叶变换：
$F^{-1}(\hat{f}(w))=\frac{1}{2\pi }{\int }_{-\pi }^{\pi }{e}^{iwt}\hat{f}(w)dw$
这里，为了令逆傅立叶变换能还原原信号，所以把$\frac{1}{2\pi }$加在这里了，当然，如果要保证能还原原信号还有其他条件，这里就不展开说明了。
介绍几个傅立叶变换有用的性质：
1、如果$f$的导数还存在，并且属于$L^1(IR)$，那么
${\hat{f}}^{{}^{\prime }}(w)=iw\hat{f}(w)$
${\hat{f}}^n(w)=(iw{)}^n\hat{f}(w)$
因为前面的$w$相当于加权，所以，相当于高频信号占比增加。
2、定义$\ast$为卷积，时域相卷等于频域相乘
F { f ( t ) ∗ g ( t ) } = f ^ ( w ) g ^ ( w ) F\{f(t)*g(t)\}=\hat{f}(w)\hat{g}(w) F{f(t)∗g(t)}=f^​(w)g^​(w)
3、时域移动等于频域移相
F { f ( t − t 0 ) } = e j w t 0 f ^ ( w ) F\{f(t-t_0)\}=e^{jwt_0}\hat{f}(w) F{f(t−t0​)}=ejwt0​f^​(w)
有的时候，时移信号的时移量可以放在频域来分析，因为在频域通过FFT快速计算，更快地算出时移量。
4、Parseval恒等式：
对于所有$f,g\in L^2(IR)$，下述关系成立
$<f,g>=\frac{1}{2\pi }<\hat{f},\hat{g}>$
特别地，$||f|{|}_2=(2\pi {)}^{-\frac{1}{2}}||\hat{f}|{|}_2$
这个Parseval恒等式应该怎么理解呢？其实它的本质就是正交变换不改变向量长度。
傅立叶变换本身就可以理解为一个正交变换：
举个例子：
信号在时域上的表示可以看作是在一组时域正交基上的表示：
时域上的正交基是：
$1,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0........(第一个时刻为1，其余时刻为0)$
$0,1,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0........(第二个时刻为1，其余时刻为0)$
$0,0,1,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0........(第三个时刻为1，其余时刻为0)$
$0,0,0,1,0,0,0,0,0,0,0,0,0,0,0,0,0,0........(第四个时刻为1，其余时刻为0)$
$0,0,0,0,1,0,0,0,0,0,0,0,0,0,0,0,0,0........(第五个时刻为1，其余时刻为0)$
它不仅是正交的，还是单位正交的。
信号在频域上的表示可以看作是在在一组频域正交基上的表示：
频域上的正交基是：
$e^{i{w}_0}$
$e^{2i{w}_0}$
$e^{3i{w}_0}$
$e^{4i{w}_0}$
$e^{5i{w}_0}$
不过，虽然是正交的，但是$e^{iw}$在$(0,2\pi )$上的积分结果为$2\pi$，所以，才有了Parseval恒等式中的系数$\frac{1}{2\pi }$。
5、线性
F { f 1 ( t ) } = F 1 ( w ) F\{f_1(t)\}=F_1(w) F{f1​(t)}=F1​(w)
F { f 2 ( t ) } = F 2 ( w ) F\{f_2(t)\}=F_2(w) F{f2​(t)}=F2​(w)
F { a 1 f 1 ( t ) + a 2 f 2 ( t ) } = a 1 F ( w ) + a 2 F 2 ( w ) F\{a_1f_1(t)+a_2f_2(t)\}=a_1F(w)+a_2F_2(w) F{a1​f1​(t)+a2​f2​(t)}=a1​F(w)+a2​F2​(w)
6、奇偶实虚性
简单来说，这个性质就是由这么几个公式拓展而来
F { f ( t ) } = ∫ − ∞ ∞ f ( t ) e − i w t d t = F ( w ) F\{f(t)\}=\int_{-\infty}^{\infty}f(t)e^{-iwt}dt=F(w) F{f(t)}=∫−∞∞​f(t)e−iwtdt=F(w)
F { f ( − t ) } = ∫ − ∞ ∞ f ( − t ) e − i w t d t = t = − t ′ ∫ ∞ − ∞ f ( t ′ ) e i w t ′ − d t ′ = ∫ − ∞ ∞ f ( t ′ ) e i w t ′ d t ′ = F ( − w ) F\{f(-t)\}=\int_{-\infty}^{\infty}f(-t)e^{-iwt}dt=^{t=-t'}\int_{\infty}^{-\infty}f(t')e^{iwt'}-dt'=\int_{-\infty}^{\infty}f(t')e^{iwt'}dt'=F(-w) F{f(−t)}=∫−∞∞​f(−t)e−iwtdt=t=−t′∫∞−∞​f(t′)eiwt′−dt′=∫−∞∞​f(t′)eiwt′dt′=F(−w)
F { f ( t ) ‾ } = ∫ − ∞ ∞ f ( t ) ‾ e − i w t d t = ∫ − ∞ ∞ f ( t ) e i w t ‾ d t = F ( − w ) ‾ F\{\overline{f(t)}\}=\int_{-\infty}^{\infty}\overline{f(t)}e^{-iwt}dt=\int_{-\infty}^{\infty}\overline{f(t)e^{iwt}}dt=\overline{F(-w)} F{f(t)​}=∫−∞∞​f(t)​e−iwtdt=∫−∞∞​f(t)eiwt​dt=F(−w)​
当$f(t)$为实偶函数时，其频谱也是实偶函数。
当$f(t)$为实奇函数时，其频谱是虚奇函数。
当$f(t)$为虚奇函数时，其频谱是实奇函数。
当$f(t)$为虚偶函数时，其频谱也是虚偶函数。
7、对称性
傅立叶正变换和反变换之间存在着对称关系，称为傅立叶变换的对称性质
F { f ( t ) } = F ( w ) F\{f(t)\}=F(w) F{f(t)}=F(w)
F { F ( t ) } = 2 π f ( − w ) F\{F(t)\}=2\pi f(-w) F{F(t)}=2πf(−w)
8、尺度变换
F { f ( a t ) } = 1 ∣ a ∣ F ( w a ) F\{f(at)\}=\dfrac{1}{|a|}F(\dfrac{w}{a}) F{f(at)}=∣a∣1​F(aw​)
上式表示：若信号$f(t)$在时域上压缩到原来的$\frac{1}{a}$倍，则其频谱在频域上以0hz为中心展宽$a$倍，同时其幅度减小到原来的$\frac{1}{a}$。
举例解释：看视频快放时，其放音速度比原音频播放速度要高，这就相当于信号在时间上受到压缩。于是其频谱就扩展，即频率变高了。
另一个例子解释：信号的等效脉宽与等效频宽成反比。如果通过压缩信号的持续时间来提高通信速度，则必然使信号的频带展宽。因而通信技术中，通信速度与占有频带是一种矛盾的关系。
9、频移特性
若信号$f(t)$的频谱为$F(w)$， 将$f(t)$乘以因子$e^{j{w}_{0}t}$，则$f(t)e^{i{w}_{0}t}$的频谱为
F { f ( t ) e i w 0 t } = ∫ − ∞ ∞ f ( t ) e i w 0 t e − i w t d t = ∫ − ∞ ∞ f ( t ) e − i ( w − w 0 ) t d t = F ( w − w 0 ) F\{f(t)e^{iw_0t}\}=\int_{-\infty}^{\infty}f(t)e^{iw_0t}e^{-iwt}dt=\int_{-\infty}^{\infty}f(t)e^{-i(w-w_0)t}dt=F(w-w_0) F{f(t)eiw0​t}=∫−∞∞​f(t)eiw0​te−iwtdt=∫−∞∞​f(t)e−i(w−w0​)tdt=F(w−w0​)
由左加右减知，相当于将$F(w)$向右平移$w_0$。

Haar族

Haar提出定义于$[0,1]$上函数另外的正交族$h_n(x)$，使对任一$[0,1]$上连续函数，级数${\sum }_{i=0}^{\infty }<f,h_i>h_i(x)$在$[0,1]$上一致收敛于$f(x)$，这里$<u,v>={\int }_0^{1}u(x)v(x)dx$
从逼近论的角度来看，haar小波并不比用阶梯函数对连续函数的古典逼近好多。但这导致量后续小波的产生。

正文开始

时-频域的稀疏表示：

传统频域分析的局限性：没有信号的先后信息，没有时间定位信息
常用时频分析方法：

短时傅立叶变换（STFT）：获得信号在时间和频率构成的时频平面上的稀疏表示：

如果做$f$的一个好的定位切片$f(t)\overline{w(t-b)}$之后，再取它的Fourier变换
W { f ( t ) } = ∫ − ∞ ∞ e − i w t f ( t ) w ( t − b ) ‾ d t W\{f(t)\}=\int_{-\infty}^{\infty}e^{-iwt}f(t)\overline{w(t-b)}dt W{f(t)}=∫−∞∞​e−iwtf(t)w(t−b)​dt，这称为窗口Fourier变换，它是时间-频率局部化的一种标准技术。
如果取$w(t)=g_a(t)$，即取Gauss函数作为窗函数，则窗口Fourier变换式变成Gabor变换

Gabor变换

G b { f ( t ) } = ∫ − ∞ ∞ f ( t ) g a ( t − b ) e − i w t d t G_b\{f(t)\}=\int_{-\infty}^{\infty}f(t)g_a(t-b)e^{-iwt}dt Gb​{f(t)}=∫−∞∞​f(t)ga​(t−b)e−iwtdt
又因为：
${\int }_{-\infty }^{\infty }{g}_a(t-b)db={\int }_{-\infty }^{\infty }{g}_a(x)dx=1$
所以：
∫ − ∞ ∞ G b { f ( t ) } d b = F { f ( t ) } \int_{-\infty}^{\infty}G_b\{f(t)\}db=F\{f(t)\} ∫−∞∞​Gb​{f(t)}db=F{f(t)}
也就是说，$f$的Gabor变换的集合 G b { f ( t ) } G_b\{f(t)\} Gb​{f(t)}精确分解$f$的Fourier变换$\hat{f}$，以便于给出它的局部谱信息。
对Gabor变换分析它的时频特性时，要注意，Gabor变换的一个基是：
$g_a(t-b)e^{i{w}_{0}t}$
所以Gabor变换的形状不是高斯函数的钟型，而是震荡形的。

其中b是指的时间上的定位信息，$w_0$指的是频域上的一个定位信息。
通过修改$w_0$为$w_0,2w_0,3w_0,4w_0,5w_0,6w_0,...$等离散频率点，相当于离散傅立叶变换。
通过修改时间定位信息$b$，可以得到不同时间点的信号的分析。
Gauss函数族：
$g_a(x)=\frac{1}{2\sqrt{\pi a}}{e}^{-\frac{x^2}{4a}}$
$\widehat{g_a}(w)=e^{-a{w}^2}$
这里涉及到高斯函数的傅立叶变换以及高斯函数的积分问题，详细过程就不推导了。可以看到，当修改$a$的数值时，将会导致$g_a(x)，\widehat{g_a}(w)$一个变胖，一个变瘦，所以如果时域窗比较窄（时域的分辨率比较高），那么频域窗就会比较宽（频域的分辨率比较低）。
两个信号时域相乘后傅立叶变换等于分别傅立叶变换之后在频域相卷，所以，相当于：
G b { f ( t ) } ( w 0 ) = ∫ − ∞ ∞ f ( t ) g a ( t − b ) e − i w 0 t d t = f ^ ( w ) ∗ g a ^ ( w − w 0 ) = ∫ − ∞ ∞ f ^ ( w ) g a ^ ( w − w 0 ) d w G_b\{f(t)\}(w_0)=\int_{-\infty}^{\infty}f(t)g_a(t-b)e^{-iw_0t}dt=\hat{f}(w)*\hat{g_a}(w-w_0)=\int_{-\infty}^{\infty}\hat{f}(w)\hat{g_a}(w-w_0)dw Gb​{f(t)}(w0​)=∫−∞∞​f(t)ga​(t−b)e−iw0​tdt=f^​(w)∗ga​^​(w−w0​)=∫−∞∞​f^​(w)ga​^​(w−w0​)dw
因为卷积窗$\widehat{g_a}(w-w_0)$有一定宽度，所以它相当于是一定频率范围内的系数的加权和，所以它的频率分辨率是有限的，当频率分布密集的时候，就会混在一起。
由此，引入小波变换。

小波变换

小波基中就不再有$e^{iwt}$这一项了，虽然小波基仍然是波动的，所以，分析小波变换的时候就不使用傅立叶变换的相关知识来分析了。
短时傅立叶变换可以看作是在不同时间点和频率点上对信号的分析。
小波变换则是看作在不同时间点和尺度点上对信号的分析，尺度和频率有一定的关系，实际生活中，低频的信号一般持续时间长，所以适合用尺度比较大的长窗，高频的信号一般持续时间短，所以适合用尺度比较小的短窗。但如果所测量的信号并不符合这个特点，用小波的效果往往不如短时傅立叶变换好。
小波变换与傅立叶变换的对比：
连续小波变化$\to$傅立叶变换
连续小波变换：
$W_f(u,s)=\frac{1}{\sqrt{|s|}}{\int }_{-\infty }^{\infty }$
小波框架$\to$傅立叶级数
正交小波变化$\to$正交的傅立叶级数
小波变换的快速算法Mallat$\to$快速傅立叶变换
小波基$\to$傅立叶基
小波基：
${\varphi }_{u,s}(t)=\frac{1}{\sqrt{s}}\varphi (\frac{t-u}{s})$
小波基中不同的时间参数$u\to$短时傅立叶变化中不同的时间点
小波基中不同的尺度参数$s\to$短时傅立叶变换中不同的频率点

离散小波变换——Mallat算法分析

这里，介绍一下，在Matlab中是如何得到小波变换矩阵的。
离散小波变换（Discrete Wavelet Transform，DWT）是基于Mallat算法实现的，针对离散的时间信号，DWT是指将连续小波变换中的尺度参数s和时移参数u离散化。
Mallet算法框图：

Highpass和Lowpass就相当于时域上使用滤波器对信号进行卷积。
下采样指每隔2个点采样1个点。
假设Highpass为$h(M-1),h(M-2),h(M-3),...,h(2),h(1),h(0)$，长度为M。
信号x为$x(N-1),x(N-2),x(N-3),...,x(2),x(1),x(0)$，长度为N。
所以用Highpass对信号x卷积等于：
$\left[\begin{array}{c}{y}_0\\ y_1\\ y_2\\ .\\ .\\ .\\ y_n\end{array}\right]=\left[\begin{array}{cccccccc}h(\frac{M}{2})& h(\frac{M}{2}-1)& ...& h(0)& 0& 0& ...& 0\\ h(\frac{M}{2}+1)& h(\frac{M}{2})& ...& h(1)& h(0)& 0& ...& 0\\ h(\frac{M}{2}+2)& h(\frac{M}{2}+1)& ...& h(2)& h(1)& h(0)& ...& 0\\ .& & & & & & & \\ .& & & & & & & \\ 0& 0& ...& h(M-1)& h(M-2)& h(M-3)& ...& h(\frac{M}{2})\end{array}\right]\left[\begin{array}{c}{x}_0\\ x_1\\ x_2\\ .\\ .\\ .\\ x_n\end{array}\right]$
这个就是卷积的过程，滤波器中间$h(\frac{M}{2})$对应的x的位置就是y输出的位置。
下采样就是仅仅保留上面的Highpass矩阵中的偶数行，得到的就是下采样后的输出y，下采样后输出y的长度仅仅为原信号x的一半。
即
$Y_{\frac{N}{2}\times 1}=H_{\frac{N}{2}\times N}{X}_{N\times 1}$
根据Lowpass构造对应的$L_{\frac{N}{2}\times N}$，将$H_{\frac{N}{2}\times N}$和$L_{\frac{N}{2}\times N}$组合成$W_{N\times N}=\left[\begin{array}{c}{H}_{\frac{N}{2}\times N}\\ L_{\frac{N}{2}\times N}\end{array}\right]$，即为我们寻找的小波变换矩阵，不过这只是一个尺度上的，为了实现多尺度（多层）分解，需要用矩阵的连乘。
第一层分解表示为：
$\left[\begin{array}{c}[A_1{]}_{\frac{N}{2}\times 1}\\ [D_1{]}_{\frac{N}{2}\times 1}\end{array}\right]=\left[\begin{array}{c}{H}_{\frac{N}{2}\times N}\\ L_{\frac{N}{2}\times N}\end{array}\right]X_{N\times 1}=[W_1{]}_{N\times N}[X{]}_{N\times 1}$
第二层分解是由$A_1$得到$D_2$和$A_2$的过程，如下：
$\left[\begin{array}{c}[A_2{]}_{\frac{N}{4}\times 1}\\ [D_2{]}_{\frac{N}{4}\times 1}\end{array}\right]=\left[\begin{array}{c}{H}_{\frac{N}{4}\times \frac{N}{2}}\\ L_{\frac{N}{4}\times \frac{N}{2}}\end{array}\right][A1{]}_{\frac{N}{2}\times 1}=[W_2{]}_{\frac{N}{2}\times \frac{N}{2}}[A_1{]}_{\frac{N}{2}\times 1}$
可以把两层分解放在一起可得
$\left[\begin{array}{c}[A_2{]}_{\frac{N}{4}\times 1}\\ [D_2{]}_{\frac{N}{4}\times 1}\\ [D_1{]}_{\frac{N}{2}\times 1}\end{array}\right]=\left[\begin{array}{c}[W_2{]}_{\frac{N}{2}\times \frac{N}{2}}[A_1{]}_{\frac{N}{2}\times 1}\\ [D_1{]}_{\frac{N}{2}\times 1}\end{array}\right]=\left[\begin{array}{cc}[W_2{]}_{\frac{N}{2}\times \frac{N}{2}}& 0\\ 0& [I{]}_{\frac{N}{2}\times \frac{N}{2}}\end{array}\right]\left[\begin{array}{c}[A_1{]}_{\frac{N}{2}\times 1}\\ [D_1{]}_{\frac{N}{2}\times 1}\end{array}\right]=\left[\begin{array}{cc}[W_2{]}_{\frac{N}{2}\times \frac{N}{2}}& 0\\ 0& [I{]}_{\frac{N}{2}\times \frac{N}{2}}\end{array}\right][W_1{]}_{N\times N}[X{]}_{N\times 1}$
更多的层次可以以此类推。