初学MCMC（Markov Chain Monte Carlo）

        最近在学习Degroot的probability and statistics，学至著名的MCMC算法，个人感觉书本上讲的不明白，因此对其进行初步研究，试图对其本质有个直觉认识和初步的理论认识。

        用一段通俗易懂的话来解释MCMC如下：Monte Carlo是根据大数定理，通过求取采样点的均值逼近所求的期望；Markov Chain是一个当前状态只与前一个状态有关的随机过程，经过满足一定条件的转移概率矩阵的有限次转移，任一状态都将收敛于平稳态，使用计算机进行模拟时，如果选取合适的转移概率矩阵，则总可以实现平稳态的分布，然后采用Monte Carlo方法逼近所求值。如何选取合适的转移矩阵，方法就是Metropolis-Hastings等算法，Metropolis-Hastings算法的核心是巧妙实现细致平稳条件，Gibbs Sampling是该算法的一个特例。

       学习MCMC需要基本的概率统计知识，推荐几个自学材料：

       1、关于Markov Chain，可以参看Degroot的概率统计教材第三章：http://download.csdn.net/detail/q10132/9457423

       2、这个链接的文档写的通俗易懂，但是公式不好看：http://www.cnblogs.com/ywl925/archive/2013/06/05/3118875.html

       3、这篇文档对于初学MCMC很有帮助：http://download.csdn.net/detail/q10132/9457419