自适应算法回顾

版权声明：本文为博主原创文章，转载请附上博文链接！

1 写在前面

近年来，有源噪声控制 的应用越来越广泛。在这里，先不着重于描述有源噪声控制(ANC，active noise control)，而是对自适应信号处理中的算法进行回顾。自适应算法自动调节单位脉冲响应，使之趋近于维纳解。

2 自适应算法

2.1 LMS算法

LMS算法是自适应算法中最基础的算法。因为其简单及实用性，在实际工作中具有广泛的应用。误差信号$e(n)$可以表示为
$$e(n)=d(n)-y(n)$$式中$y(n)$为自适应滤波器的输出。即
$$y(n)=\mathbf{w}(n{)}^T\mathbf{x}(n)$$式中$\mathbf{x}(n)$为信号$x(n)$的采样延时矢量：
$$\mathbf{x}(n)=[x(n),x(n-1),...x(n-L+1)]$$算法的目标函数可以表示为，
$$J(n)=E[e(n){]}^2$$利用最速下降法可得，$$\mathbf{w}(n+1)=\mathbf{w}(n)+▽J(n)$$$$\mathbf{w}(n+1)=\mathbf{w}(n)+\mu \mathbf{x}(n{)}^{T}e(n)$$
LMS算法运算量低，但收敛速度慢。当自适应循环次数$n$趋于无限大时，维纳滤波器的最速下降法的解接近于维纳解。

2.2 RLS算法¹

RLS算法即递归最小二乘算法（RLS，recursive least squares）。首先介绍最小二乘的概念。
最小二乘法可以看成维纳滤波器理论的另一种表示方法。维纳滤波器是从集平均导出的，最小二乘法涉及使用时间的平均，因此该滤波器取决于计算中适用的样本数。RLS算法利用$n-1$时滤波器权向量的最小二乘估计计算$n$时的数据。
RLS代价函数为$$J(n)=\sum _{i=1}^n\beta (n,i){\left|e(i)\right|}^2$$式中$e(i)$与上节中表示的含义一样，为期望信号与滤波器输出之差
$$e(i)=d(i)-y(i)$$
通常所用的加权因子是指数加权因子，即遗忘因子$$\beta (n,i)={\lambda }^{n-i}i=1,2,...,n$$
即
$$J(n)=\sum _{i=1}^n{\lambda }^{n-i}{\left|e(i)\right|}^2$$
为了解决病态问题，在代价函数中加入正则化项，则有
$$J(n)=\sum _{i=1}^n{\lambda }^{n-i}{\left|e(i)\right|}^2+\delta {\lambda }^n{\Vert \mathbf{w}(n)\Vert }^2$$
增益向量$$\mathbf{k}(n)=\frac{{\lambda }^{-1}\mathbf{P}(n-1)\mathbf{u}(n)}{1+{\lambda }^{-1}\mathbf{u}(n{)}^T\mathbf{P}(n-1)\mathbf{u}(n)}$$
先验估计误差为$$\mathbf{e}(n)=\mathbf{d}(n)-\mathbf{u}(n{)}^T\hat{\mathbf{w}}(n-1)$$
抽头权系数的迭代为
$$\hat{\mathbf{w}}(n)=\hat{\mathbf{w}}(n-1)+\mathbf{k}(n)e(n)$$
Riccati方程
$$\mathbf{P}(n)={\lambda }^{-1}\mathbf{P}(n-1)-{\lambda }^{-1}\mathbf{k}(n)\mathbf{u}(n{)}^T\mathbf{P}(n-1)$$

2.3 卡尔曼滤波

卡尔曼滤波（KF，Kalman filter）利用含有噪声的测量值来估计具有难以预测扰动的动态系统的当前状态，且其应用可以推广到弱线性问题。最优估计看作是滤波过程。上述RLS算法可以归为Kalman滤波的一种特殊形式。
设线性系统的动态模型为$$\mathbf{x}(k)=\mathbf{F}\mathbf{x}(k-1)+w$$测量模型为$$\mathbf{z}(k)=\mathbf{H}x(k)+v$$上面两式中$w$和$v$均为0均值的高斯白噪声。令$\hat{\mathbf{x}}(k|k-1)$和$\hat{\mathbf{x}}(k|k)$分别表示状态变量的先验估计和后验估计。
离散时间的卡尔曼滤波公式包括$$\hat{\mathbf{x}}(k+1|k)=\mathbf{F}[\hat{\mathbf{x}}(k|k-1)+\mathbf{K}(k)\alpha (k)]$$式中$\alpha (k)$为新息。有$$\alpha (k)=z(k)-\mathbf{H}\hat{\mathbf{x}}(k|k-1)$$$K(k)$为卡尔曼增益矩阵$$\mathbf{K}(k)=\mathbf{P}(k|k-1){\mathbf{H}}^T[\mathbf{H}\mathbf{P}(k|k-1){\mathbf{H}}^T+\mathbf{R}{]}^{-1}$$式中$\mathbf{P}(k|k-1)$为协方差矩阵，即$$\mathbf{P}(k|k-1)=E[\mathbf{x}(k)-\hat{\mathbf{x}}(k|k-1)][\mathbf{x}(k)-\hat{\mathbf{x}}(k|k-1){]}^T$$
协方差矩阵更新公式为$$\mathbf{P}(k+1|k)=\mathbf{F}[(I-\mathbf{K}(k)\mathbf{H}(k))\mathbf{P}(k|k-1)]\mathbf{F}+\mathbf{Q}$$

3 结语

上述自适应算法在ANC中均有广泛的应用，特别是LMS算法，由于其简单运算量小的特点，使得FxLMS算法成为ANC中最基础的算法。
如果您有兴趣，可以参考自适应数字滤波器，学习自适应信号处理的相关知识。

---

1. 请参考《自适应滤波器原理》 ↩︎