现代数字信号处理——维纳滤波原理及自适应算法

最新推荐文章于 2024-06-25 23:30:13 发布

程勇uestc

最新推荐文章于 2024-06-25 23:30:13 发布

阅读量4.4k

点赞数 4

分类专栏：现代数字信号处理文章标签：现代数字信号处理 LMS 维纳滤波器

本文链接：https://blog.csdn.net/qq_40438165/article/details/108063421

版权

现代数字信号处理专栏收录该内容

7 篇文章 24 订阅

订阅专栏

一、维纳滤波器基本理论

1、自适应横向滤波器

在这里插入图片描述

$w_i^*$ ：滤波器权系数
$w=[w_0,w_1,\cdots,w_{M-1}]$ ：滤波器权向量
$d (n)$ ：期望响应
$\hat{d}(n)=\sum_{i=0}^{M-1}w_i^*u(n-i)=w^Hu(n)=u^T(n)w^*$ ：对期望响应的估计
$e(n)=d(n)-\hat{d}(n)$ ：估计误差

2、均方误差准则

$e(n)=d(n)-\hat{d}(n)=d(n)-w^Hu(n)=d(n)-u^T(n)w^*\\J(w)=E\{|e(n)|^2\}=E\{e(n)e^*(n)\}\\=E\{|d(n)|^2\}-E\{d(n)u^H(n)\}w-w^HE\{u(n)d^*(n)\}+w^HE\{u(n)u^H(n)\}w\\=\sigma_d^2-p^Hw-w^Hp+w^HRw$
在这里插入图片描述
$\quad$ $J (w)$ 是凸函数，且开口向上。

3、维纳-霍夫方程

$\quad$ 如何求得最优权向量呢？因为 $J (w)$ 是凸函数，因此对 $J (w)$ 求导为0的结果就是答案。 $\Delta J(w)=-2p+2Rw=0\\Rw_0=p\\因为R非奇异，最优权向量w_0=R^{-1}p$
$\quad$ 这就是最小均方误差准则——使误差的平均功率最小。

4、正交原理

$Rw_0=p \rightarrow Rw_0-p=0\\E\{u(n)u^H(n)\}w_0-E\{u(n)d^*(n)\}=0\\E\{u(n)[u^H(n)w_0-d^*(n)]\}=0\\E\{u(n)e^*_o(n)\}=0\rightarrow E\{u(n-i)e^*_o(n)\}=0$

估计误差 $e_0(n)$ 与所有抽头的输入信号 $u (n - i)$ 相互正交
$E\{\hat{d}_0(n)e^*_o(n)\}=w_o^HE\{u(n)e^*_o(n)\}=0$ ，所以 $\hat{d}_0与e_0(n)$ 也相互正交

5、最小均方误差

$当Rw_0=p时J_{min}=\sigma_d^2-p^Hw_0=\sigma_d^2-w_0^HRw_0\\=\sigma_d^2-w_0^HE\{u(n)u^H(n)\}w_0=\sigma_d^2-w_0^HE\{[w_0^Hu(n)][w_0^Hu(n)]^*\}$
$\quad$ $J_{min}=\sigma_d^2-E\{|\hat{d}(n)|^2\}=\sigma_d^2-\sigma_{\hat{d}}^2$ ，最小均方误差就是期望响应的平均功率与最优滤波器输出的估计信号的平均功率之差。

二、维纳滤波求解——最陡下降法

$\quad$ 利用维纳霍夫方程求解需要计算矩阵 $R$ 的逆，计算量大。沿着 $J (w)$ 的负梯度方向调整 $w$ 可以寻到最优权向量。 $w(n+1)=w(n)+\Delta w,\Delta w=-\frac{1}{2}\mu \Delta J(w(n))\\ \Delta J(w(n))=-2p+2Rw\\ w(n+1)=w(n)+\mu[p-Rw(n)]$
$\quad$ 如果步长因子满足 $0<\mu < \frac{2}{\lambda_{max}},\lambda_{max}为R的最大特征值$ ，那么最陡下降法会逐步逼近极小值。
$\quad$ 如果步长满足上述式子，则均方误差 $J (n)$ 关于时间 $n$ 是一个单调递减函数，且 $lim_{n\rightarrow \infty} J(n)=J_{min}$ 。

三、随机梯度算法LMS

$\quad$ 梯度下降算法缺点在于当 $P, R$ 确定时，迭代过程和结果就确定了；与输入信号变换无关，不具有自适应性。
$\quad$ 在LMS中，用n时刻的瞬时估计值 $\hat{R}=u(n)u^H(n),\hat{p}=u(n)d^*(n)$ 代替统计量 $R, p$ ，则可得 $\hat{\Delta}J(n)=-2\hat{p}+2\hat{R}w(n)=-2u(n)e^*(n)$

LMS算法

1.初始化 $n=0；权向量\hat{w}(0)=0；估计误差e(0)=d(0)-\hat{d}(0)=d(0)=0；输入向量u(0)=[u(0),u(-1),\cdots,u(-M+1)]^T=[u(0),0,\cdots,0]^T$
2.对 $n=0,1,2,\cdots$ ， $权向量更新\hat{w}(n+1)=\hat{w}(n)+\mu u(n)e^*(n)；期望信号估计\hat{d}(n+1)=\hat{w}^H(n+1)u(n+1)；估计误差e(n+1)=d(n+1)-\hat{d}(n+1)$
3.令n=n+1，转到步骤2

$\quad$ LMS算法的收敛条件与普通梯度下降相同，即 $0<\mu < \frac{2}{\lambda_{max}},\lambda_{max}为R的最大特征值$ 。
$\quad$ LMS算法的统计特性

均值 $E\{\hat{J}(\infty)\}=J_{min}(1+\frac{\mu \sum_{i=1}^M\lambda_i}{2-\mu \sum_{i=1}^M\lambda_i})$ ，其中 $\lambda_i$ 是自相关矩阵 $R$ 的全部特征值
$\mu$ 满足不等式 $0<\mu < \frac{2}{\sum_{i=1}^M\lambda_i}=\frac{2}{输入总功率}$ ， $r (0)$ 即为输入信号 $u (n)$ 的总功率
剩余均方误差 $J_{ex}(\infty)=E\{\hat{J}(\infty)\}-J_{min}$
失调参数 $M=\frac{J_{ex}(\infty)}{J_{min}}=\frac{\mu \sum_{i=1}^M\lambda_i}{2-\mu \sum_{i=1}^M\lambda_i}$
平均时间常数表征LMS算法的平均收敛速度 $\tau_{av}=\frac{1}{2\mu \lambda_{av}}$ ， $\lambda_{av}$ 为自相关矩阵R的特征值的平均值。
收敛速度不仅与步长有关，还与相关矩阵的特征值有关。定义 $X(R)=\frac{\lambda_{max}}{\lambda_{min}}$ ，当 $X (R)$ 非常大时，称R是病态的，其值越大，SD和LMS算法收敛速度越慢。