马尔可夫链蒙特卡洛（Markov Chain Monte Carlo）

MCMC方法的许多应用是关于贝叶斯统计分析问题的，这些贝叶斯统计分析中常常需要计算后验分布的一些数字特征，如后验期望、后验方差、后验众数、后验分位数等。

$\text{蒙特卡洛抽样方法}$

设 $p(\mathbf{x}|\theta )$表示样本的概率函数（或称为参数$\theta$ 的似然函数), $\pi (\theta )$为$\theta$ 的先验分布，则$\theta$ 的后验分布为
$$\pi (\theta |\mathbf{x})=\frac{p(\mathbf{x}|\theta )\pi (\theta )}{\int p(\mathbf{x}|\theta )\pi (\theta )d\theta }(1)$$我们的目标是函数$h(\theta )$的后验期望
$$E[h(\theta )|\mathbf{x}]=\int h(\theta )\pi (\theta |\mathbf{x})=\frac{\int h(\theta )p(\mathbf{x}|\theta )\pi (\theta )d\theta }{\int p(\mathbf{x}|\theta )\pi (\theta )d\theta }(2)$$
当$h(\theta )=\theta$时，上式表示$\theta$的后验期望；
当$h(\theta )=[\theta -E(\theta |\mathbf{x}){]}^2$,上式表示$\theta$的后验方差。

对于一些复杂问题式(2)没有显式表达，除了使用分析逼近方法或者数值积分方法之外，蒙特卡洛抽样方法是一个可选用的有效计算方法。

因此对于式(2)应用蒙特卡洛抽样方法，从后验分布$\pi (\theta |\mathbf{x})$中产生i.i.d.观测值${\theta }_1,{\theta }_2,\dots ,{\theta }_m$,则由大数定律：
$${\bar{h}}_m=\frac{1}{m}\sum _{i=1}^{m}h({\theta }_i)(3)$$
这种用式（3）去逼近式（2）的方法被称为蒙特卡洛抽样方法。
很多时候从后验分布$\pi (\theta |\mathbf{x})$中产生i.i.d.观测值很困难， 而从与后验分布非常接近的分布$g$中抽样比较容易，从而在蒙特卡洛方法中引入重要性函数的概念。

对于式（2）最右边项的分子：
$$\begin{gathered} \int h(\theta )p(\mathbf{x}|\theta )\pi (\theta )d\theta =\int \left\{\frac{h(\theta )p(\mathbf{x}|\theta )\pi (\theta )}{g(\theta )}\right\}\cdot g(\theta )d\theta =E_g\left\{\frac{h(\theta )p(\mathbf{x}|\theta )\pi (\theta )}{g(\theta )}\right\} \\ (4) \end{gathered}$$
同样对于分母：
∫ p ( x ∣ θ ) π ( θ ) d θ = ∫ { p ( x ∣ θ ) π ( θ ) g ( θ ) } ⋅ g ( θ ) d θ = E g { p ( x ∣ θ ) π ( θ ) g ( θ ) } ( 5 ) \int p(\boldsymbol{x}|\theta)\pi(\theta) d\theta= \int \left\{\frac{p(\boldsymbol{x}|\theta)\pi(\theta)}{g(\theta)} \right\}\cdot g(\theta) d\theta=E_g\left\{\frac{p(\boldsymbol{x}|\theta)\pi(\theta)}{g(\theta)} \right\} \q