2021-03-24

我对矩阵特征值的再认识

——温故而知新

1. 最近在上万群老师的现代数字信号处理，老师在讲课之前提到了最基础的线性关系、信号处理的中的特征值等问题。
现代数字信号处理3个核心问题：
自相关函数，线性自回归，功率谱密度函数；
高维空间简化的三个依据：1，有限R阶；2，宽平稳；3，各态历经性；
最后，在正式讲课前，老师要求每位同学以“温故而知新，我对xx概念或定义的再认识或再思考”为题目撰写1-2页的报告，
2. 正文
我对矩阵特征值的再认识
——温故而知新
谈到矩阵的特征值，就无法忽略与之相对应的特征向量。
温故是我最初接触到矩阵特征值和特征向量时是在学习线性代数的时候。设A是n阶方阵，如果数λ和n维非零列向量x使关系式：Ax=λx 成立，
那么这样的数λ称为矩阵A特征值，非零向量x称为A的对应于特征值λ的特征向量。式Ax=λx也可写成( A-λE)X=0。
线性代数中矩阵特征值和特征向量的几何意义：矩阵乘法对应了一个变换，是把任意一个向量变成另一个方向或长度都大多不同的新向量。在这个变换的过程中，原向量主要发生旋转、伸缩的变化。如果矩阵对某一个向量或某些向量只发生伸缩变换，不对这些向量产生旋转的效果，那么这些向量就称为这个矩阵的特征向量，伸缩的比例就是特征值。
线性代数中矩阵特征值和特征向量解决的问题：矩阵特征值和特征向量的引入，可以用来求解n阶线性方程组和分析线性变换的问题。然而对于具体的如何求解以及如何变化，由于本文主要讨论对矩阵特征值的再认识，因此这里不做过多的叙述。
知新——我对矩阵特征值的再认识。特征值与特征向量在信号处理中也有广泛的应用。
首先，我新学到了矩阵特征值和特征向量的物理意义，由上面矩阵特征值和特征向量的几何意义可以得到：特征向量在一个矩阵的作用下作物理上的伸缩运动，伸缩的幅度由特征值确定。特征值大于1，所有属于此特征值的特征向量长度增加；特征值大于0小于1，特征向量长度缩小；特征值为负，则代表方向变成反向，所以矩阵的特征向量无论怎么变化，变换前后都是共线的。
矩阵特征值和特征向量在信号处理的新认识：当应用于信号处理之中，原来线性代数中的实向量和实矩阵已经无法满足所描述问题的复杂性了，因此我们引入了复向量和复矩阵的概念。
在这里我们把矩阵特征值的概念上升到矩阵的谱，所谓矩阵的谱就是矩阵所固有的特性，所有的特征值形成了矩阵的一个频谱，每个特征值是矩阵的一个“谐振频点”。

设想一个信号系统：其特性可以被一个矩阵所描述，那么这个系统的特性就可以被这个矩阵的特征值所决定，各种不同的信号（向量）进入这个系统中后，系统输出的信号（向量）就会发生相位滞后、放大、缩小等各种纷乱的变化。但只有特征信号（特征向量）被稳定的发生放大（或缩小）的变化。如果把系统的输出端口接入输入端口，那么只有特征信号（特征向量）第二次被放大（或缩小）了，其他的信号如滞后的可能滞后也可能超前同时缩小，放大的可能被继续放大也可能被缩小同时滞后，缩小的可能被继续缩小也可能被放大同时滞后等。经过N次的循环后，信号系统中的噪声就会被滤除，因此我们就可以因此在时间域上观察输出，就会得到一个或几个超级明显的特征信号出来（特征向量）。根据这个原理，衍生出来多重自相关法滤除噪声的方法。
所以，特征性量的线性不变性的特点，是我们利用特征值和特征向量研究通信系统重要条件，特征向量的不变性，允许我们可以从复杂的信号（经过杂乱的线性变换的过程）中恢复出我们想要的信号。
再换个思考角度，描述信号系统的矩阵，输入信号（向量），特征值。我们面对一个信号矩阵时，当我们知道输入信号，信号矩阵的时候，我们可以求出对应的特征值，然后就能从这些特征值可以分析出信号经过矩阵时是如何变化的；我们知道特征向量，矩阵后也可以 对特征值进行处理，从而改变特征向量的反正、大小。对于更加复杂的问题可以看出是无数个矩阵迭代相乘的结果，经过降重，我们总可以得到最终的解。

参考