现代信号处理3_线性正交估计（CSDN_20240331）

最新推荐文章于 2024-08-08 10:14:05 发布

woaixuexi428

最新推荐文章于 2024-08-08 10:14:05 发布

阅读量1.7k

点赞数 53

文章标签：信号处理学习

本文链接：https://blog.csdn.net/woaixuexi428/article/details/136637635

版权

Yule-Walker/Wiener-Holf方程

Gram-Schmidt正交法

正交的意义

Wiener滤波器

因果的维纳滤波器 Casual Wiener Filter

统计优化准则的选择

在估计问题中，假设Y是未知的待估参数，X={X1,X2,…,XN} 是已经获得的数据，通过对X的处理，实现对Y的估计，即

在上述滤波器优化设计中，可以考虑采用某种最小代价函数或某个性能指标作为衡量标准，一般有以下3种选择。

大多数情况下，我们通常选择第一种标准，一方面，平方代表能量，在直观的物理意义上很匹配；另一方面，在数学上，平方求导后变成线性的，而线性问题方便处理，相对于非线性问题，更容易获得解析解。

条件期望

利用条件期望，可以把不同的随机变量分开，从而达到“各个击破”的目的。下面举例说明之。

最优估计

在4.1中的估计问题中，用一个数据X对Y进行估计，为了更好的估计Y，选择均方误差作为准则，即让

尽可能小，这就形成了一个均方意义下的最优化优化问题：

这个问题比较复杂，原因是要对g(X) 进行优化，然而我们对它没有任何限制，它可以是线性的，也可以是非线性的，甚至可以是我们所能想到的任何一种函数形式，最优化就是从所有的这些函数中选择一个最优的。在这个过程中，不能对g(X) 进行参数化处理，（如果可以的话，可以对参求导，然后再做进一步处理）。

首先分析比较简单的问题。用一个常数a逼近另一个常数Y，在均方意义下，就是下面的优化问题：

上面的结果表明，用一个常数逼近另一个常数的最优结果就是数学期望。

当然上述只是一种猜想，现在还不能作为一个结论，下面我们要验证这个猜想是否正确。

线性最优估计

用数据X估计Y时，应该如何组织数据是一个很复杂的问题，虽然已知最优估计是条件期望，但是条件期望作为理论上的最优解，实际计算中，它却往往很难计算，只有服从联合高斯分布时才能得到闭式解。我们不妨在这个地方做出让步，稍微牺牲估计的准确度，寻求一种相对简单的处理方式——线性估计。构造一组系数α1,α2,…,αN ，利用这组系数，对数据X={X1,X2,…,XN} 进行线性组合，希望这个线性组合能够尽可能逼近待估参数Y。与条件期望相比，线性估计的可解性更好，原因主要包括两点：1，它是一种参数化手段，通过求导，很容易将对估计的寻优转化为对参数的寻优；2，线性估计所涉及的计算比较简单，是一种容易把握的方法。

Yule-Walker/Wiener-Holf方程

Gram-Schmidt正交法

正交的意义

我们试图在均方最优准则下，用数据{X1,X2,…,XN} 对Y进行估计，这个估计有着明确的理论最优解——条件期望，但实际上条件期望很难计算，因此我们寻找了一种更贴近实际的方法——线性估计。当估计的残差与估计的原材料之间相互正交是，线性估计有最优解，这个最优解可以通过Yule-Walker方程求解，而求解该问题的最大难点是要对X的相关矩阵RX 求逆，求逆又是一个很麻烦的问题，为了规避这一麻烦，我们希望RX 是一个对角阵，而RX 是对角阵就意味着估计的原材料之间正交，因此正交在这里有着重要意义。然而实际中原材料往往不满足正交条件，所以要对它们做正交化处理，通常使用Gram-Schmidt正交法。