PRML读书会第十一章 Sampling Methods（MCMC， Markov Chain Monte Carlo，Metropolis-Hastings，Gibbs Sampling)

主讲人 网络上的尼采

（新浪微博:@Nietzsche_复杂网络机器学习）

网络上的尼采(813394698) 9:05:00 
今天的主要内容：Markov Chain Monte Carlo，Metropolis-Hastings，Gibbs Sampling，Slice Sampling，Hybrid Monte Carlo。

上一章讲到的平均场是统计物理学中常用的一种思想，将无法处理的复杂多体问题分解成可以处理的单体问题来近似，变分推断便是在平均场的假设约束下求泛函L(Q)极值的最优化问题，好处在于求解过程中可以推出精致的解析解。变分是从最优化的角度通过坐标上升法收敛到局部最优，这一章我们将通过计算从动力学角度见证Markov Chain Monte Carlo收敛到平稳分布。

先说sampling的原因，因为统计学中经常会遇到对复杂的分布做加和与积分，这往往是intractable的。MCMC方法出现后贝叶斯方法才得以发展，因为在那之前对不可观测变量（包括隐变量和参数）后验分布积分非常困难，对于这个问题上一章变分用的解决办法是通过最优化方法寻找一个和不可观测变量后验分布p(Z|X)近似的分布，这一章我们看下sampling的解决方法，举个简单的例子：比如我们遇到这种形式，z是个连续随机变量，p(z)是它的分布，我们求f(z)的期望。如果我们从p(z)中sampling一个数据集z^(l)，然后再求个平均来近似f(z)的期望，so,问题就解决了，关键是如何从p(z)中做无偏的sampling。
为了说明sampling的作用，我们先举个EM的例子，最大似然计算中求分布的积分问题，我们在第九章提到了，完整数据的log似然函数是对隐变量Z的积分：

如果Z是比较复杂的分布，我们就需要对Z进行采样，从而得到：

具体就是从Z的后验分布中进行采样。

如果我们从贝叶斯的观点，把EM参数theta也当成一个分布的话，有下面一个IP算法:

I步，我们无法直接对P(Z|X)取样，我们可以先对P(theta|X)取样，然后再对Z的后验分布进行取样：