LMS 算法(最小均方算法)
滤波器——改变信号频谱
模拟滤波器: 由R、L、C构成的模拟电路。
数字滤波器: 由数字加法器、乘法器、延时器构成,基于数字信号运算实现。
自适应滤波器: 一种能够根据输入信号自动调整自身参数的数字滤波器。
非自适应滤波器: 具有静态滤波器系数的数字滤波器,这些静态系数构成滤波器的传递函数。
自适应滤波器的应用
对于一些应用(如系统辨识、预测、噪声消除等),我们无法事先知道需要进行操作的参数,必须使用自适应的系数进行处理,这种情况下通常使用自适应滤波器。
自适应滤波器处理语音信号时,不需要事先知道输入信号和噪声的统计特性,滤波器自身能够在工作过程中学习或估计信号的统计特性,并以此为依据调整自身参数,已达到某种准则/代价函数下的最优滤波效果。
一旦信号统计特性发生变化,还可以跟踪这种变化,重新调节参数,使滤波性能重新达到最优。因此,自适应滤波是处理非平稳信号的一种有效手段。
LMS 算法
Wiener 滤波
我们从一个N阶线性系统出发,设计一个N阶滤波器,它的参数为 W ( n ) W(n) W(n) ,则滤波器输出为:
y ( n ) − ∑ i = 0 N − 1 w i ( n ) x ( n − 1 ) = W T ( n ) X ( n ) = X T ( n ) W ( n ) y(n)-\sum_{i=0}^{N-1}w_i(n)x(n-1)=W^T(n)X(n)=X^T(n)W(n) y(n)−i=0∑N−1wi(n)x(n−1)=WT(n)X(n)=XT(n)W(n)
上式中:
X ( n ) = [ x ( n ) , x ( n − 1 ) , . . . x ( n − N + 1 ) ] T W ( n ) = [ w 0 ( n ) , w 1 ( n ) , . . . w N − 1 ( n ) ] T X(n)=[x(n),x(n-1),...x(n-N+1)]^T \\ W(n)=[w_0(n),w_1(n),...w_{N-1}(n)]^T X(n)=[x(n),x(n−1),...x(n−N+1)]TW(n)=[w0(n),w1(n),...wN−1(n)]T
期望输出为 d ( n ) d(n) d(n),定义误差信号:
e ( n ) = d ( n ) − y ( n ) = d ( n ) − W T ( n ) X ( n ) e(n)=d(n)-y(n)=d(n)-W^T(n)X(n) e(n)=d(n)−y(n)=d(n)−WT(n)X(n)
根据最小均方误差(MMSE)准则,最小化目标函数: J ( W ) J(W) J(W)
J ( W ) = E { ∣ e ( n ) ∣ 2 } =