信号分析浅谈1

本文只用于科普和整理知识体系结构，数学严谨性上必定有所欠缺。如有关于严谨性的讨论我将表示赞赏，但请不要以此攻击本文。

10.4 略作修改。

----------------------------------------------------------------------------------------------------------------------------

如何分析一个信号？这个问题和“如何认识一个从未见过的现象或事物”相似。我们认识一个新事物的时候，通常用过去已经了解的事物来做类比。看到一个不认识的人，我们可能会说这是个“中年人”、“男人”。这其实就是在用已知的两个概念来和这个人做类比。在心理学上，这种机制被称为“原型”(prototype)，即事先确定几个典型的例子，以它们作为各个类别的原型，判定新实例和原型之间的相似度，从而实现对新事物的认识。原型机制的一些特点我在上一篇日志中提到过。

 

认识事物所使用的原型必须和事物相适应，“具体问题具体分析”。比如对于这个“中年男人”的例子，如果使用“绿色”、“飞行”这样的原型来描述，就没有意义。因此，我们要对使用的“已知事物集合”提一些条件：

1. 既然这些已知事物是用来和新事物作类比的，那么两个相似的新事物作类比之后的结果也应该相似。

2. 类别结果应该确实能反映已知事物和新事物的相似度，而不是新事物和一些其他东西的相似度（硬要用“飞行”来和“中年男人”做类比的话，恐怕实际上用的是“鸟类”吧！）。

3. 我们使用的已知事物之间应该没有太大的联系，否则做说明的时候就会纠缠到一起搞不清楚。

4. 如果我们发现对某个事物的认识错了，那么根据对相似的事物的认识，应该可以纠正这个错误，而不是完全不知所措。

5. 认识事物当然是把事物都分门别类条分缕析，弄得非常清楚才好。

其中第3个和第4个条件不完全相容，这一点后面再讨论。

现在我们了解了一些认知的机制，可以试着把它们翻译成数学语言，进而用于信号分析。首先，“已知事物集合”在数学中的对应是已知函数集。一个好的已知函数集受到上述四条性质的约束，下面分条陈述。

性质1：

具有性质1的函数集叫做框架，对它们如下关系成立

 

其中A<=B是两个常数，s是待分析的信号，psy是函数集。这个关系保证了两个在欧氏距离意义上相近的信号在函数集psy上的投影也在欧氏距离意义上相近，这就是把性质1用数学语言描述了一遍。在实际应用中，我们不仅仅要分析信号，还要处理信号，所以用处理后的信号在框架下的投影来重建一个信号是很重要的。因此需要构造一个对偶框架，记作psy(上面有个小hat)，满足下式

 

对于一般的框架，对偶框架的构造不是那么容易。为了方便信号重建，通常令上式中A=B，这时得到的框架称为紧框架(tight frame)。对于紧框架，很容易构造一个对偶框架

 

可以看到这两个函数集只差一个常数，所以紧框架的对偶框架相当于自身，不用再另行构造。

举一个二维紧框架的例子，如下图。

 

这个框架中三个坐标向量的模相等，夹角都是120度，因此一个长度一定的向量不管旋转到什么角度，它在这三个轴上的投影长度之和都是一定的，说明它是一个紧框架。

性质2：

一个紧框架具有性质2。一个正交的紧框架，就是我们熟悉的标准正交基。有一点非常重要：紧性和正交性不是递进的关系，而是互补关系。为了明白这一点，有必要先了解一下投影这一运算的一些细节。重建一个信号的时候，是将信号在给定的框架上展开，那么其中的系数从何而来？是信号和对偶框架做内积得到的，而不是和原框架做内积。

举一个非常特殊的例子：正交基。一组正交基对应的是满秩矩阵，我们知道这样的矩阵可以做特征值分解，成为如下形式：

 

其中P是一个正交矩阵，换句话说就是一个标准正交基。因此特征值分解就是把一个基分解为一个标准正交基和一个由特征值组成的对角矩阵。由于标准正交基对应的是旋转变换，而矩阵所能表示的变换又只有旋转和缩放，所以特征值代表的正是对各基向量方向上的分量的缩放程度。想象一下，如果让信号和一组起放大作用的正交基做内积，那么再和同一个正交基做内积显然不能得到原信号。至少也应该是起缩小作用的正交基吧？的确，正交基的对偶框架就是它的逆。和正交基的逆做内积才能得到正确的投影系数，这说明投影系数正好反映的是信号和正交基的不相似程度，真是让人哭笑不得。看来正交基通常不具有性质2。

而紧框架的各个坐标向量的模相等，对各个方向一碗水端平。这让它的对偶框架和自身呈线性关系（只相差一个乘性常数），不像正交基要乘上一整个向量才能得到逆矩阵。这种线性关系，就是我们梦寐以求的性质2，即投影系数和信号与框架的相似度成正比。

性质3&4：

第二条性质在数学上可以表达为各已知函数之间具有正交性。观察描述性质1的图中的紧框架，可以发现它不满足正交性——任意两个向量之和都与剩下的一个等大反向。这样我们分解一个信号向量的时候就不免有点复杂，因为无穷多组系数都对应同一个向量。不过这件事并不全是坏事，因为它恰好满足了我们需要的第三条性质——当某一个轴上的投影由于某种原因出现了很大的误差，还可以用余下的两个轴来推断出真实的信号。这一原理可以总结为“冗余度可用来纠错”，是信道编码理论的基础。这样看来，在正交性和抗噪声性能之间，必须按实际需求取一个折衷。

性质5：

第四条性质则是整个信号分析理论的核心。把事物了解得十分清楚，这对应着在相应的域上有很高的分辨率。而在一个域上有着什么样的分辨率，是由框架函数在该域上的形式决定的。可以想象，如果我们选取常值函数作为框架，那么无论做什么样的线性组合，都不可能从投影结果中看到信号的变化情况。与此相反，如果选取冲激函数作为框架，时域上的分辨率要多高就有多高。这说明常值函数在时域上的分辨率是极度差的。由此可以得到这样的启发：在一个域上分辨率越高，选取的框架函数在这个域上有定义的区间就应该越小。用专业一点的话说，框架函数在指定的域上应该是局部化的(localized)。另外，如果选取的框架不是标准正交基，那么信号在各框架之上的投影就会线性相关，也会造成分辨率降低。

现在我们知道了分辨率的来源，可以以此理解很多东西。比如，傅里叶变换中的基函数“复指数函数”之所以只适用于时不变系统的分析，是因为复指数函数在时域上是无限延展的正弦型函数。所以傅里叶变换在时域上完全没有分辨率，一旦信号的频率成分发生变化，傅里叶变换的系数就失去了物理意义。另一方面，时域分析中的基函数——冲激函数在频域上对应正弦型函数，所以时域分析也无法反应任何频域信息。所谓“频域离散性对应时域周期性，时域离散性对应频域周期性”，都是由此而来。将这一性质再向前推进一步，就到了海森堡测不准原理：任意两个成傅里叶变换对关系的物理量，其不确定区间宽度之积大于一定值

 

这一关系当然有点令人沮丧，但也带来了一个启发：或许可以将时域和频域的分辨率取一个折衷，特别是在高频时提高时域分辨率，在低频时提高频域分辨率。这一思想促成了小波分析的诞生。小波变换中使用的基函数在时域和频域上都是localized的，而且利用时域和频域的平移和缩放性质，做到了在高频时提高时域分辨率，在低频时提高频域分辨率。

 

小波分析时-频相图

总的来说，信号分析中用到的框架（或说基函数）可以看作我们已知的事物，将信号在框架上做投影相当于用已知的事物来解释未知的新事物（事实上，在机器学习领域，心理学上的“原型”概念就通常用径向基函数来建模）。做投影有两大重要指标，一是一致性，即框架的紧性；二是分辨率，它本质上由基函数的局部化性质决定，基函数在指定域上越局部化，它在这个域上的分辨率就越高。另一方面，正交基相对于非正交的基函数有很高的分辨率，不会出现邻域各系数之间混叠到一起分不清楚的情况，但它也因此缺少对噪声的抗性。所以在正交性和鲁棒性之间要取折衷。