【概率图与随机过程】07 含有隐变量的参数估计问题

目录

1.参数估计问题的回顾

2.新情况：场景中含有隐变量

3.迭代法：解决含有隐变量情形的抛硬币问题

4.代码试验

---

1.参数估计问题的回顾

在第01讲中，我们介绍了很多例子，告诉了大家如何使用样本值去估计模型的参数，比如均值、方差等等，并且介绍了非常常用的极大似然估计方法。

比如你手上有一枚不均匀的硬币，他抛出之后正面朝上和反面朝上的概率并不相等，你想去探索硬币正面朝上的概率，那很简单，你把他抛 N N N次，其中正面朝上的次数为 n 1 n_1 n1​，那么我们就用 n 1 N \frac{n_1}{N} Nn1​​的值作为正面朝上概率的估计。

又比如你知道，某个地区18岁成年男子的身高服从一个正态分布，那么如果你想知道这个身高正态分布的均值和方差，那也不难，我们可以随机挑选 N N N个该地区的成年男子作为样本，分别统计出他们的身高 x 1 , x 2 , x 3 , . . . , x N x_1,x_2,x_3,...,x_N x1​,x2​,x3​,...,xN​，通过极大似然估计法得到的样本均值和样本方差：

μ m l e = 1 N ∑ i = 1 N x i σ m l e 2 = 1 N ∑ i = 1 n ( x i − μ m l e ) 2 \mu_{mle}=\frac{1}{N}\sum_{i=1}^{N}x_i\\\sigma^2_{mle}=\frac{1}{N}\sum_{i=1}^n(x_i-\mu_{ml