【西蒙赫金】自适应滤波器原理（读书笔记一）

背景和预览

1、滤波问题：
从含噪的数据中提取有用的信息。

2、三种基本估计（基本的信息处理运算）：
（1）滤波：使用t时刻及其以前的数据来提取或者估计t时刻有用信息。实时
（2）平滑：后验形式的估计。用0到t时刻的数据获取t’时刻平滑估计（t‘<t），包含t-t’的时延，但是相较于（1）滤波更准。非实时
（3）预测：用0到t时刻的数据估计t’时刻的有用信息（t’>t）。实时

3、线性最优滤波器：
如果输出是输入的线性函数，则是线性滤波器，否则是非线性滤波器。

4、自适应滤波器：
性能指标：收敛速度、失调（最终均方误差与维纳滤波最小均方误差之间的偏离程度）、跟踪（跟踪环境统计量的变化）、鲁棒性、计算要求、结构、数值特性

5、线性滤波器结构：
自适应滤波过程（1）滤波：对输入产生输出响应（2）自适应过程：提供滤波过程中可调参数自适应控制的算法。
（1）具有有限记忆的线性滤波器：
1）横向滤波器：（抽头延迟线性滤波器、有限脉冲响应滤波器）

横向滤波器由单位延迟单元、乘法器和加法器组成。延迟单元的个数（滤波器阶数）确定了脉冲响应的有限持续时间。乘法器的作用是用滤波器系数（抽头权值）乘以与其相连的抽头输入。横向滤波器输出：

上式叫做有限卷积和。

2）格型预测器：

格型滤波器具有模块结构，由大量独立的级组成，级数就是阶数。

fm(n)是第m级前向预测误差，bm(n)是第m级后向预测误差。km叫做m阶发射系数。

3）脉动阵列：
脉动阵列表示并行计算网络，非常适合映射大量重要的代数计算，诸如矩阵乘法、三角化和反向替代。基本处理单元：边界单元和内部单元。


图7的三角脉动阵列主计算了R的转置矩阵的元素是三角阵列中各自单元的内容。0加到输入是为了提供上式流水线计算所需要的延迟。

（2）具有无限记忆的线性滤波器：

IIR滤波器包含反馈支路，使脉冲响应的持续时间变为无限长。但是会导致不稳定。

6、线性自适应滤波器的研究方法：
（1）随机梯度法：
使用抽头延迟线或者横向滤波器作为实现线性自适应滤波器的构造基础。

对于平稳输入的情况，代价函数（性能指标）定义为均方误差（期望响应与输出之差的均方值）。代价函数恰好使横向滤波器中抽头权值的二次函数。未知抽头权值均方误差的函数关系看作是具有唯一确定的极小点的多为抛物面（误差性能曲面），对应该曲面极小点的抽头权值定义了最优维纳解。

分两步推导更新自适应横向滤波器抽头权值的递归算法：首先，使用迭代求解维纳-霍夫方程（采用最速下降法：这个方法需要使用梯度向量，其值取决于横向滤波器中的抽头输入的自相关矩阵以及期望响应与该抽头输入之间的互相关向量）；其次，我们使用这些相关的瞬态值，以便推导梯度向量的估计值，推导中假设该向量是随机的。
基于上述思想的算法就是LMS：
抽头权向量更新值 = 老的抽头权向量值 + （学习率参数）X（抽头输入向量）X（误差信号）
LMS算法简单，但是收敛速率慢（随机误差，受期望响应d影响大，所以收敛慢，而且收敛后的性能差），而且对抽头输入相关矩阵条件数（矩阵的条件数定义为最大特征值与最小特征值之比）的变化比较敏感。

（2）最小二乘估计：
对加权误差平方和形式的代价函数最小化，其中误差或残差定义为期望响应与实际滤波器输出之差。

最小二乘法可用块估计或者递归估计表示。在块估计中，输入数据流以等长度块的形式排列，而且一块一块地对输入数据进行滤波处理，而在递归估计中，一个样值一个样值的对感兴趣的估计进行更新。递归估计需要更少的存储量。

RLS可看做卡尔曼滤波的特例。卡尔曼滤波器著名的特点是状态概念，它提供了特定时刻加到滤波器抽头所有输入的一个度量，卡尔曼滤波算法的核心部分，存在一种递推关系：
（状态递推值） = （旧的状态值） + （卡尔曼增益）（新息向量）
新息向量表示在计算时刻进入滤波过程的新的信息。在卡尔曼变量和RLS变量之间的确存在一一对应关系。这个对应关系使得我们可以从大量卡尔曼滤波器文献中选择一些方法用来设计基于最小二乘估计的线性自适用滤波器。

取决于所采用的方法，递归最小二乘线性自适用滤波算法族可分为三类：
1）标准RLS算法：横向滤波器。矩阵求逆引理（已知一个高维矩阵A的逆矩阵，当A矩阵产生了一个非常小的变化（维数远低于A或者低于A）时，能不能根据已知的A的逆矩阵，求产生微小变化后的矩阵的逆。）

标准的RLS算法缺点：缺乏数值鲁棒性和计算复杂度高。

2）平方根RLS算法：基于输入数据矩阵的QR分解。？？？？？？？？？

3）快速RLS算法：上述两种算法复杂度O(M^2)。(LMS是O(M))
在瞬态处理情况下，首先利用输入数据矩阵的托伯利兹结构所固有的冗余度优点，其次通过利用前向和后向两个方向线性最小平方预测中的冗余度。两种形式：
（1）阶更新自适应滤波器：以类似于线性前向和后向预测中采用的格型结构为基础。某些数值稳定。
（2）快速横向滤波器：线性前向和后向预测用分离的横向滤波器完成。数值不稳定。

LMS是模型无关的跟踪特性较好，RLS模型相关，跟踪性能差。

7、自适应滤波器的实数和复数形式：

8、自适应波束形成
当传感器均匀地位于某一直线上的时候，空间滤波器中的数据快照起到了类似于某一特定时刻横向滤波器中的一组连续抽头输入的作用。波束形成的目的就是区分信号和噪声的空间特性。


由于角度被限制在-pi/2到pi/2之间，角度的允许值在-pi到pi之间，所以d必须小于入/2，以使得两个角度值之间存在一一对应关系。

8、自适应滤波器的四种应用：
基本特征：输入向量和期望响应被用来计算估计误差，该误差用来控制一组可调滤波器系数。