现代数字信号处理总结 上

第2章 离散时间平稳随机过程

导语

本博客全部参考于UESTC电工学院何子述老师讲义复习而得，如有转载请保留此句！

---

2.1 随机过程基本概念

     实随机过程：离散时间随机过程x (n)的每个样本函数都是实信号，则都是实信号，则x (n)为实离散时间随机过程。

     窄带随机过程的正交解调，实际应用中，是对每个样本函数进行正交解调。

     离散时间随机过程的数字特征：均值函数、自相关函数、自协方差函数，互相关函数、互协方差函数。

     平稳随机过程中自相关函数的性质：原点处自相关函数值最大、自相关函数具有共轭对称性

     互相关函数的性质：互相关函数具有共轭对称性、互相关函数的模<=各个平均功率平方根的积。

     如果时间均值均方收敛于统计均值，则称该随机过程是均值均方遍历的。

     若时间自相关函数均方收敛于自相关函数，则称该随机过程是 相关均方遍历的。

     如果平稳随机过程满足均值均方遍历和相关均方遍历，那么称该平稳随机过程为均方遍历（各态历经）的。

     平稳随机过程是均方遍历的，则均值和自相关函数可以用时间平均替代集总平均。

     随机过程间的独立、正交、相关：独立时条件概率密度独立，期望独立；正交指变量积的期望为0；相关由相关系数表征。

     统计独立必然统计不相关，但逆命题一般不成立。
     对于高斯随机变量，统计独立与不相关等价。

2.2 相关矩阵和参数模型

     平稳离散时间随机过程的相关矩阵是Hermite矩阵，是Toeplitz矩阵

     平稳离散时间随机过程的相关矩阵的特征值非负，利用正交化后所得不同特征值对应的特征向量相互正交。

     离散时间平稳随机过程的功率谱密度是实函数。

     平稳随机过程的参数模型：根据输入输出求出系统的Z域表达式

     参数模型的输出是当前输入和以前P个输出的线性组合，称为自回归模型，简称AR模型

     MA模型的输出是当前输入和以前q个输入的线性组合，称为滑动平均模型，简称MA模型

     根据LTI系统理论，一个ARMA或AR过程，可以由一个无穷阶MA过程表示。一个有限阶次的ARMA模型也可以用一个阶数足够高的AR模型或MA模型来近似。

     随机过程高阶累积量和高阶谱可以互相转换：

     高阶累积量可以通过矩-累积量转换公式（M-C）；

     高阶矩可以通过累积量-矩转换公式（C-M）。

---

第3章 功率谱估计和信号频率估计方法

     怎样利用随机过程u(n)的N个观测数据估计出随机过程的功率谱S (w)？

• 经典功率谱估计
• 参数模型法估计
• 基于相关矩阵特征分解的信号频率估计

3.1 经典功率谱估计方法

     BT法（间接法）: 根据N个观测数据，先估计出自相关函数，然后对其进行傅里叶变换

     其中，自相关函数的估计性能：均值是渐近无偏估计，方差是渐近一致估计。

     周期图法（直接法）：直接通过观察数据的傅里叶变换求得。周期图法的分辨率随着信号长度的增加而提高。（因为时间窗变宽，频域窗变窄，好处是分辨率增大，坏处是不平滑）

     改进：Bartlett法（分段无重叠）、Welch法（分段有重叠），目的使其平滑

BT法实际上是对周期图法的平滑，但是平滑和平均往往改善了周期图的方差性能，又降低了分辨率和增加了方差。也就是说，平滑和分辨率是矛盾的。

3.2平稳随机过程的三种参数模型估计

     (1)  AR参数模型功率谱估计基本思想是，认为随机过程u (n)就是白噪声通过LTI离散时间系统得到的响应，利用观测样本估计出模型参数，也就得到了功率谱。

     AR 模型求解：利用AR模型的正则方程，又称Yule-Walker方程，矩阵求逆得参数（系数）。当然，实际工程中，利用 Levinson– Durbin 迭代算法进行求解。

     分析：AR模型谱估计受制于信噪比、初始相位、阶数P。

     (2)  q阶MA 模型的正则方程为是一个非线性方程组，求解复杂，因此常用方法是用高阶AR模型来近似MA模型，用AR模型参数估计MA模型参数。

     (3)  ARMA模型，首先修正Y-W方程，得到AR参数，进而求MA参数，得到谱估计。

3.3 MVDR信号频率估计方法

     思想：选择滤波器权向量w 的原则是：使复正弦信号w1无失真地通过滤波器，而尽量抑制其余频率的信号和噪声。

     数学模型：约束条件使期望信号无失真输出，输出平均功率最小来抑制其它信号和噪声。

     应用拉格朗日乘子法，构造代价函数，梯度求解。

     分析：MVDR谱分辨率随着抽头数 M 的增大而提高。MVDR不是信号的功率谱，而是信号的平均功率。

3.4 基于相关矩阵特征分解的信号频率估计

     基本思想：直接对估计的随机过程相关矩阵进行特征分解，利用复正弦信号与相关矩阵特征值和特征向量的关系，得到信号频率的估计。

     MUSIC算法：利用了信号子空间和噪声子空间的正交性，构造空间谱函数，通过谱峰搜索，估计信号频率。

     Root-MUSIC算法：由于MUSIC算法需要谱峰搜索，因此将信号频率估计问题转化成了一元高次方程的求根问题，此时不需要搜索。

     Pisarenko谐波提取：利用噪声子空间中一个特征向量，与信号子空间正交求根

     ESPRIT算法：基于旋转不变技术的信号参数估计。

---

第4章 维纳滤波原理及自适应算法

     自适应滤波，滤波器的工作参数随输入信号的统计特性的变换而自适应调整，使滤波器一直工作在某种最佳状态，而维纳滤波器原理是自适应滤波的典型基本理论。

4.1 维纳滤波基本原理

     基本理论：在自适应信号处理中，通过对横向滤波器权向量w的实际，使滤波器的输出在某种意义下尽量逼近期望响应，或使估计误差在某种意义下最小。

     基本过程：学习过程，类似于标定坏人进行警犬训练；工作过程，类似于拿到未知样本，让警犬识别。实际系统中，二者交替进行，实现时变条件下输入信号的最优滤波。

     维纳滤波：误差准则MSE，维纳霍夫求解权向量w0（矩阵求逆）,从而求得最小均方误差J。

     估计误差与输入信号正交，与估计输出信号正交。

4.2 维纳滤波器的最陡下降求解方法（SD算法）

     维纳-霍夫方程的缺点：一是需要计算逆矩阵，二是计算的权向量固定，不具有自适应性

     最陡下降法：根据误差沿着最陡的负梯度方向，按一定的步长进行迭代，最终代价函数最小

     主要掌握：原理、收敛性、学习曲线。

4.3 LMS算法

     SD算法的不足：p和R确定，迭代过程和结果就确定；与输入信号变化无关，不具有自适应性。

     原理：LMS中自相关矩阵和互相关向量是瞬时估计值，都是确定量。而不再是SD算法中一段时间的信号信息统计量。

     主要掌握：迭代求解过程、收敛性

     缺点：不能取得全局最小；受限于步长参数，自相关矩阵特征值等因子。

     改进：变步长LMS、归一化LMS、泄露LMS

4.4 多级维纳滤波器

     将一个有M个权系数的维纳滤波器，利用递推方法分解成M个单抽头的维纳滤波器。该方法的优点是只需要估计互相关向量p，而不需要直接计算自相关矩阵的估计及其逆矩阵。

     观测数据的满秩变换，不改变维纳滤波器的估计输出和最小均方误差。

     利用阻塞矩阵，前向/后向递推进行权值估计