10.1 标量随机变量的递归最小均方估计
新息概念:计算递归估计过程。
定义前向预测误差:
├f(n−1)(n)=y(n)−ŷ (n|Y(n−1))n=1,2,...
├
f
(
n
−
1
)
(
n
)
=
y
(
n
)
−
y
̂
(
n
|
Y
(
n
−
1
)
)
n
=
1
,
2
,
.
.
.
Y_(n−1):观测值├ y(1),…,y(n−1)张成的空间;
├ y ̂(n|Y_(n−1) ):用n−1及其之前的所有观测值,对n时刻观测到的随机变量├ y(n)所做的一步预测。
├ f_(n−1) (n):可看做滤波器输入为时间序列├ y(1),…,y(n−1)时n−1阶前向预测误差滤波器的输出。
注意:预测阶数n-1随着n线性增长。根据正交性原理,预测误差├ f_(n−1) (n)应与过去所有观测值├ y(1),…,y(n−1)正交,故可看做是n时刻观测的随机变量├ y(n)中所含新信息的一个度量,因而叫做“新息”。
预测误差称为“新息”:
├ α(n)=f_(n−1) (n)
新息α(n)具有的特性:
(1)新息与过去观测值正交性
(2)新息之间相互正交
(3)观测数据与新息之间存在一一对应关系
递归最小均方误差估计器的基本结构:预测器-修正器。
(1)利用观测值计算称为“新息”的前向预测误差。
(2)利用新息更新(亦即修正)与随机变量的观测值线性相关的最小均方估计。
上述过程根据公式:
├ α(n)=f_(n−1) (n)=y(n)−y ̂(n|Y_(n−1) ) n=1,2,…前向预测误差
E[α(n) y^∗ (k)]=0 1≤k≤n−1正交性
├ x ̂(n|Y_n)=x ̂(n−1|Y_(n−1))+b_n α(n)递归估计算法
b_n=├ E[x(n)α^∗ (n)]/├ E[α(n)α^∗ (n)] 利用估计误差均方值最小