EM算法学习

EM算法迭代在数据缺失，但已知分布的情况下寻求关于$\theta$ 最大化的似然函数。从而找到 $\theta$ 最有可能值。即用这个值来代替 $\theta$
比如完全样本是 $(x_1,\dots ,x_n)$ 但是我只观测到 $(x_1,\dots , x_m)$ $(m<n)$ 剩下的 $(x_{m+1},\dots , x_{n})$ 是缺失的。令$z=(x_{m+1},\dots , x_{n})$ 是已知观测值后完全样本唯一的随机变量。对随机变量在$\theta^{(t)}$ 的条件下求期望，使函数中只有变量$\theta$，和目前认为的最优结果$\theta^{(t)}$， 从而可以找到下一次迭代的结果。

定义的期望函数 $Q(\theta|\theta^{(t)})=E(logL(\theta|Y)|x,\theta^{(t)})$
$E(logf_Y(y|\theta)|x,\theta^{(t)})$ 这个公式，是似然函数在$\theta$ 的条件下，但是期望是在$\theta^{(t)}$ 的条件下。
$\int[log(f_Y(y|\theta))]f_{Z|X}(z|x,\theta^{(t)})dz$ 是对已知观测值的样本值的所有随机变量积分。