小波分析的发展历程

时频分析与小波变换的发展历程（一）

傅立叶分析的发展历程

1807年，法国学者Fourier指出任何周期函数都可以用一系列正弦波来表示，开创了傅立叶分析。

（1）操作过程：从数学角度而言，对一个函数进行傅立叶变换（Fourier Transform，FT）。从信号处理的角度而言，对任意信号f(t) 的频谱F(ω)进行分析。

（2）优点：能够准确刻画平稳信号在整个 时（空）域的频率性质。

（3）缺点：不能反映非平稳信号在局部区域的频域特征及其对应关系，即FT在时域没有任何分辨率，无法确定信号奇异性的位置。

1946年，Gabor提出了短时傅立叶变换（Short Time Fourier Transform，STFT）。

（1）操作过程：对信号进行加窗，再对加窗后的信号进行傅立叶变换，从而得到信号在局部区域的频谱。

（2）优点：能够分析信号局部频域特征。

（3） 缺点：由于STFT中时间窗的宽度与频率无关，它仍然是一种恒分辨率分析。

1948年，Ville提出了维格纳-威尔分布（Wigner-Ville Distribution，WVD），并引入时频信号分析。

（1）操作过程：信号中心协方差函数的傅立叶变换。

（2）优点：具有对称性、时移不变性、真边缘性、平均瞬时频率等优良性质，WVD的时频分辨率比STFT的分辨率高。

（3）缺点：存在交叉干扰项（Cross-Term Interference，CTI），这是二次型时频分布的固有结果，大量的CTI会淹没或严重干扰信号的自项，模糊信号的原始特征。 

 

小波分析的发展历程

一、    小波分析

1910年，Haar提出了L²(R)中第一个小波规范正交基，即Haar正交基。

（1）操作过程：Haar正交基是以一个简单的二值函数作为母小波经平移和伸缩而形成的。

（2）优点：Haar小波变换具有最优的时（空）域分辨率。

（3）缺点：Haar小波基是非连续函数，因而Haar小波变换的频域分辨率非常差。

1936年，Littlewood和Paley对傅立叶级数建立了二进制频率分量分组理论，（即L-P理论：按二进制频率成分分组，其傅立叶变换的相位并不影响函数的大小和形状），这是多尺度分析思想的最早起源。

1952年～1962年，Calderon等人将L-P理论推广到高维，建立了奇异积分算子理论。

1965年，Calderon发现了著名的再生公式，给出了抛物型空间上H¹的原子分解。

1974年，Coifman实现了对一维空间和高维空间的原子分解。

1976年，Peetre在用L-P理论对Besov空间进行统一描述的同时，给出了Besov空间的一组基。

1981年，Stromberg引入了Sobolev空间H^p的正交基，对Haar正交基进行了改造，证明了小波函数的存在性。

1981年，法国地球物理学家Morlet提出了小波的正式概念。

1985年，法国数学家Meyer提出了连续小波的容许性条件及其重构公式。

1986年，Meyer在证明不可能存在同时在时频域都具有一定正则性（即光滑性）的正交小波基时，意外发现具有一定衰减性的光滑性函数以构造L²(R)的规范正交基（即Meyer基），从而证明了正交小波系的存在。

         1984年～1988年，Meyer、Battle和Lemarie分别给出了具有快速衰减特性的小波基函数：Meyer小波、Battle-Lemarie样条小波。

1987年，Mallat将计算机视觉领域中的多尺度分析思想引入到小波分析中，提出了多分辨率分析的概念，统一了在此前的所有具体正交小波的构造，给出了构造正交小波基的一般方法，提出了快速小波变换（即Mallat算法）。它标志着第一代小波的开始？

（1）操作过程：先滤波，再进行抽二采样。

（2）优点：Mallat算法在小波分析中的地位相当于FFT在经典傅立叶分析中的地位。它是小波分析从纯理论走向实际应用。

（3）缺点：以傅立叶变换为基础，直接在时（空）域中设计滤波器比较困难，并且计算量大。

1988年，Daubechies基于多项式方式构造出具有有限支集的光滑正交小波基（即Daubechies基）。

Chui和中国学者王建忠基于样条函数构造出单正交小波函数，并提出了具有最优局部化性能的尺度函数和小波函数的一般性构造方法。1988年，Daubechies在美国NSF/CBMS主办的小波专题研讨会上进行了10次演讲，引起了广大数学家、物理学家、工程师以及企业家的重视，将小波理论发展与实际应用推向了一个高潮。

1992年，Daubechies对这些演讲内容进行了总结和扩展形成了小波领域的经典著作——小波十讲《Ten Lectures on Wavelet》。

       1992年3月，国际权威杂志《IEEE Transactions on Information Theory》专门出版了“小波分析及其应用”专刊，全面介绍了此前的小波分析理论和应用及其在不同学科领域的发展，从此小波分析开始进入了全面应用阶段。

1992年，Kovacevic和Vetterli提出了双正交小波的概念。

1992年，Cohen、Daubechies和Feauveau构造出具有对称性、紧支撑、消失矩、正则性等性质的双正交小波。

（1）操作过程：利用两组互为对偶的尺度函数和小波函数实现函数的分解与重构。

（2） 优点：具有正交小波无法同时满足的对称性、紧支撑、消失矩、正则性等性质。

1992年，Coifman和Wickerhauser提出了小波包（Wavelet Packet，WP）分析。

（1）操作过程：不仅对低通子带进行分解，而且也对高通分量分解，从而聚焦到感兴趣的任意频段。

（2）优点：突破了小波分析对信号频带进行等Q划分的局限性。

（3）缺点：最优基的搜索问题

1992年，Zou等提出了多带小波（M-band Wavelet）理论，将人们对小波变换的研究从“二带”推广到“多带”情况。

       基于“二带”小波变换的多分辨率分析中，尺度函数对应一个低通滤波器，而小波函数对应一个高通滤波器。“二带”小波变换把信号分解成不同的通道，而这些通道的带宽相对于尺度函数的对数是相同的，因此高频通道具有较宽的带宽，而低频通道具有较窄的带宽。 

1993年，Goodman等基于r阶多尺度函数及多分辨率分析建立了多小波（Multi-Wavelet）理论框架。

（1）操作过程：将单小波中由多个尺度函数生成的多分辨率空间扩展为由多个尺度函数生成，以此获得更大的自由度。

（2）优点：

1994年，Geronimo等提出了多小波变换（Multi-Wavelet Transform，MWT），将单尺度小波变换推广到多尺度小波变换。

（1）操作过程：小波函数的构造是由多个尺度函数完成的。

（2）优点：与二带小波、小波包、多带小波等单尺度小波相比，多小波在非常窄的紧支范围内同时具有光滑性、正交性、对称性、利普希茨Lipschitz连续性（消失矩）等特性。——发展中

         1991年，Alpert用多项式构造了第一个多小波。

               Geronimo等利用分形插值函数构造了正交、对称、紧支撑、逼近阶位2的GHM多小波。

1995年，Sweldens等提出了一种新的小波构造算法——提升方案（Lifting Scheme）。它标志着第二代小波的开始。

（1）操作过程：先将原始离散样本信号进行奇偶剖分，然后对奇偶样本点进行滤波处理。

（2）优点：所有的第一代小波都可以用提升方案构造出来。具有运算速度快、对内存需求量小、能实现整-整变换等特点。

（3）缺点：对于边缘、轮廓和纹理等具有高维奇异性的几何特征，小波不是表示图像的最优基。

 

小波变换的局限性：

1）二维小波变换只有2.5个方向选择性。

小波是表示具有点奇异性目标函数的最优基（能有效表示信号的零维奇异特征，反映奇异点的位置和特性），但是难以表示更高维的几何特征。

2）二维小波变换的基函数都是各向同性的。

 

 

 

时频分析与小波变换的发展历程（二）

二、超小波分析(X-let，或多尺度几何分析)

1、自适应多尺度几何分析——指图像变换的基函数随图像内容变化而变化

1997年，Meyer和Coifman提出了Brushlet变换，即一种自适应频带分割方法。

（1）操作过程：

（2）优点：非常适合描述周期纹理图像。

（3）缺点：对于分片光滑图像的边缘不能提供稀疏表示。

1999年，美国学者Donoho提出了楔波（Wedgelet）变换。

（1）操作过程：Wedgelet是定义在正方形区域上的分片二值函数，该区域被一条直线分成两个楔块，直线的方向可以根据边缘的方向调节，用一系列不同尺寸不同方向的Wedgelet可以逼近图像的边缘轮廓。

（2） 优点：使用多尺度Wedgelet对图像轮廓进行分段线性近似，能较好地捕捉图像中的“线”和“面”的特征。

（3）缺点：没有基于临界采样的滤波器组（临界采样对于压缩是很方便的）。

1999年，美国斯坦福大学的David L. Donoho教授提出了小线（Beamlets）变换。

（1）操作过程：以各种方向、尺度和位置信息的小线段为基本单元建立小线库，沿小线库中的小线段对目标图像进行线积分产生小线变换系数，以小线金字塔方式组织变换系数，再以小线图结构为驱动从小线金字塔中提取小线变换系数，从而实现多尺度分析。

（2）优点：对于处理强噪背景的图像有无可比拟的优势。

（3）缺点：小线库（字典）、小线金字塔扫描等小线变换的前期准备工作过于庞大，需要简化以利于研究。

2000年，法国学者Pennec和Mallat提出了第一代Bandelet变换。

（1）操作过程：根据图像内容将图像分割成大小不一的矩形块，变化剧烈的区域用多一些的小矩形块分割，而变化缓慢的区域用少一些的大矩形块分割。对每一个矩形块应用和边缘同向的几何流对其进行描述。把分割方式和几何流模型作为参数，去优化一个给定的目标函数，从而得到该图像的最优表示。

（2）优点：能够自适应地跟踪图像的几何正则方向，适合图像压缩应用。能够对图像的不同变化区域给以不同的处理，并抛弃“边缘”这一不易于从数学上界定的概念，转而采用“几何流”这样一个反映图像连续区域变化的概念。

（3）缺点：没有基于临界采样的滤波器组。

2001年，Cohen和Matei提出了边缘自适应多尺度变换（Edge-Adapted Multiscale Transform）。

（1）操作过程：基于边缘方向检测的非线性多尺度变换。

（2）优点：用于图像压缩，重构图像边缘处的视觉效果明显优于小波变换。

2003年，Wakin等提出了Wedgeprint的图像稀疏表示方法。

（1）操作过程：利用Wedgelet字典（Wedgelet Dictionary）来描述图像边缘产生的小波系数。

（2）优点：能够得到比小波和Wedgelet更为稀疏的图像表示方法。

2005年，Peyre和Mallat提出了第二代Bandelet变换。

（1）操作过程：普通的二维小波变换+几何正交投影。

（2）优点：不需要计算几何流，算法更加简洁快速。

2005年，Velisavljevic等基于整数格点理论提出了一种可分离多方向多尺度图像表示方法——Directionlets。

（1）操作过程：利用拉格朗日优化算法对图像进行最优分块操作，每块图像采用不同方向的Directionlets来表示。

（2）优点：各向异性基函数Directionlets在沿着任何两个有着合理斜率的方向上都有方向消失矩（DVM）。 

 

 

时频分析与小波变换的发展历程（三）

2、非自适应多尺度几何分析——指图像变换的基函数与图像内容无关

1998年，Candès和Donoho提出了连续脊波（Ridgelet）变换。

（1）操作过程：利用Radon变换将一维奇异特征（线奇异）映射为零维奇异特征（点奇异），然后再进行小波变换。

（2）优点：Ridgelet变换是表示具有线奇异性的多变量函数的最优基。

（3）缺点：对于图像曲线边缘的描述，其逼近性能只相当于小波变换。

  1998年，Donoho提出了正交Ridgelet变换的构造方法。

1999年，Candès提出的单尺度Ridgelet变换实现了含曲线奇异的多变量函数的构造方法。

2000年，Do和Vetterli提出了一种离散Ridgelet变换。

 

1999年，Candès和Donoho在Ridgelet变换的基础上提出了连续曲波（Curvelet）变换——第一代Curvelet变换中的Curvelet99。

操作过程：子带滤波+多尺度局部Ridgelet变换。

2002年，Strack、Candès和Donoho提出了第一代Curvelet变换中的Curvelet02。

操作过程：频域子带滤波+离散局部Ridgelet变换（由算法简单的伪极坐标(Pseudo-polar)FFT变换实现）。

第一代Curvelet变换的共同点：

（1）优点：对于具有光滑奇异性曲线的目标函数提供了近乎最优的表示。

            Curvelet能够达到的MSE衰减率为O(N^-2(logN)^1/2)。

（2）缺点：在实现时首先用子带分解算法对原始图像进行分解，完成对图像子带滤波的功能；然后对不同的子带图像进行分块，再对每个分块进Ridgelet变换。为了避免分块效应，块与块之间必须有重叠，因此其实现算法的冗余度较高。并且，没有基于临界采样的滤波器组。

 

2002年，Candès等人提出了第二代Curvelet变换。

（1）操作过程：无需分块操作和Ridgelet变换。

（2）优点：实现简单、便于理解、算法快速。

（3）缺点：没有基于临界采样的滤波器组。

2005年，Candès提出了两种基于第二代Curvelet变换理论的快速离散实现方法：1）非均匀空间抽样的二维FFT算法（Unequally-Spaced Fast Fourier Transform，USFFT）；2）Wrap算法（Wrapping-Based Transform）

 

2002年，Do和Vetterli提出了Contourlet变换。

（1）操作过程：多尺度分解+方向滤波器（Directional Filter Banks，DFB，也即2D-DFB）。首先采用拉普拉斯金字塔（Laplacian Pyramid，LP）式结构对图像进行多尺度分解以捕获奇异点，再由DFB将各尺度的细节子带进行多方向分解，从而将分布在同一尺度同一方向的奇异点合并成一个系数。为满足各向异性尺度关系，各尺度的方向子带的数量应取不同值，每隔一个尺度，方向数加倍。

（2）优点：它能用不同尺度、不同频率的自带更准确地捕获图像中的分段二次连续曲线，从而使表示图像边缘的Contourlet系数能量更加集中。

            Contourlet能够达到的MSE衰减率为O(N^-2(logN)³)。

（3）缺点：没有基于临界采样的滤波器组。

 

2007年，Yue Lu和M.N. Do提出了多维方向滤波器组（N-dimensional Directional Filter Banks，NDFB）的Surfacelet变换。

（1）操作过程：多尺度分解（采用新的塔式结构）+NDFB（三维信号时为3D-DFB）。首先对信号进行多尺度分解以捕获奇异变化，接着由NDFB将同一方向上的奇异变化合成为一个系数。

（2）优点：有效地捕捉和表示高维信号中的曲面奇异。

1992年，Bamberger和Smith提出无冗余且能完全重构的方向滤波器（Directional Filter Banks，DFB，也即2D-DFB），DFB能有效地对二维信号进行方向分解。具有不可分性，把DFB从二维扩展多维，至今没有完美的实现方法。

2007年，Yue Lu和M.N. Do提出了多维方向滤波器组设计方法——NDFB。采用一种简单、高效的树状结构，能够对任意维的信号进行方向分解。  

 

转自：http://qsshe.spaces.live.com/blog/cns!657A5B42EBAEDCAE!254.entry