统计信号处理基础 习题解答4-13

题目：

在实际中，我们有时候遇到这样的线性模型：

但H 也是由随机变量组成的，假设我们忽略这个差别而采用通用估计量：

其中我们假定H 的特定实现是已知的。

证明：如果H 和w 是独立的，那么 的均值和协方差是：

其中 表示对H 的PDF求数学期望。如果不做独立的假定会发生什么？

---

解答：

首先，根据 估计量的定义，可以得到：

、

此处用H 和w 是独立的条件，那么可以得到：

进一步，由于，因此我们可以得到在H 和w 是独立的条件下满足：

也就是说，尽管传统线性模型中，观测矩阵H 中也包含随机变量，但只要H 和w 是独立的，那么之前定义的通用估计量，至少仍然是无偏的。

---

其次，根据 估计量的定义，求协方差矩阵：

其中：

因此：

 处理上述计算之前，先回顾数学期望的几个性质:

1. 随机变量x 的PDF函数为 ，那么其连续型的数学期望可以表示为：

2.  是包含随机变量x 的函数，而x 的PDF函数为 ，那么该函数对随机变量变化后的连续型数学期望可以表示为：

具体内容可以参考：

随机变量的函数期望？ - 知乎中第二位答主的回答

3. 如果存在随机变量x 和y ,而x 和y 的联合概率分布函数为 ，而 是包含随机变量x 和y 的函数，那么该二维函数的连续型数学期望可以表示为：

上述过程可以进一步参考：

随机变量的数学期望_白水的博客-CSDN博客_随机变量的期望

4. 由条件概率密度的性质，可以得到:

因此可以得到：

进一步，如果随机变量x 和y 相互独立，那么：

因此：

具体可以参考：

概率论知识回顾（十一）：边缘密度函数，条件密度函数及其独立性_MengFly的博客-CSDN博客_边缘密度函数

由上述性质，我们可以得到：

如果随机变量x 和y 相互独立，那么

那么此时存在：

其中， 代表对x 的PDF求数学期望，而 代表对y 的PDF求数学期望。

如果此时更进一步，存在：

那么：

回到题目，H 是由随机变量组成，w 也是随机变量，那么：

进一步，由于 仅对随机变量w 取期望，那么存在：

因此，此时可以简化为：

而如果进一步利用H 和w 是独立的条件，那么可以得到：

 证明完毕。

---

在 为不含随机变量情况下，线性最小方差无偏估计量的方差为：

两种结论相比较，可以得到： 为随机变量且与w 独立时，上述协方差矩阵需要对 求满足随机变量 概率密度分布下的数学期望，即：