统计信号处理基础 习题解答11-7

题目

在经典的一般线性模型中MVU估计量也是有效的,可以使用最大似然方法来得到它,即 MVU 估计量通过使

最大来求得。对于贝叶斯线性模型，MMSE估计量与MAP估计量是相同的。试说明在没有先验知识的情况下，贝叶斯线性模型的MMSE估计量在形式上与经典的一般线性模型的MVU估计量相同。

---

解答

极大似然算法（MLE）的定义：

本质是在已知似然函数和现有测试样本数据集的情况下，寻求不同取值下的的最大值，把达到最大值对应的取值定义为的极大似然估计。

而MAP估计定位为：

在没有先验的情况下，也就是上式中没有信息。而形式上，贝叶斯模型与似然函数相同，即：

因此，通过寻求最大值对应的MAP估计量，对应就是寻求最大值对应的MLE估计量。

而对应题目中的高斯模型，经典条件下，MLE估计与MVU估计一致。贝叶斯情况下，MAP与MMSE一致。因此，在题目给定没有先验知识的情况下，MAP又与MLE一致。因此此时MMSE与经典情况下的MVU一致。

题目中给出的是没有先验，另外以一种情况下在范围内是均匀分布，也能得到相同的结论。此部分描述在课本例11.5前两段的描述中。