马尔可夫链蒙特卡洛（一）:Metropolis算法

0. 引言

马尔可夫链蒙特卡洛（Markov Chain Monte Carlo，MCMC）是一类从复杂概率分布中进行采样的方法。Metropolis算法是严格意义上第一个MCMC算法，它于1953年由物理学家Metropolis等人正式发表。这里的蒙特卡洛是指使用随机数来解决复杂计算问题的方法，也称为统计模拟方法。“蒙特卡洛”这个名称正是Metropolis首次建议使用的，取自摩纳哥的蒙特卡洛赌场。而发明蒙特卡洛方法的另外两位数学家分别是Ulam和计算机之父von Neumann。当时他们一起在美国的洛斯阿拉莫斯国家实验室为核武器计划工作，该计划是著名的曼哈顿计划的一部分。可以想象，MCMC与马尔可夫链和蒙特卡洛方法都有莫大的关系。本文将介绍MCMC方法的先驱—Metropolis算法。

在正式介绍Metropolis算法之前，首先考虑一下“我们为什么需要MCMC？”。假设给定一个均匀分布U(0, 1)，我们需要从该分布中产生（采样）一个样本。我们的解决方案是使用（伪）随机数生成算法来产生一个在0到1之间的随机数。因为它是随机的，所以我们认为它服从均匀分布U(0, 1)。一些其它常见分布的采样通常也可以通过适当的转换，进而由均匀分布采样得到。但是对于复杂的概率分布，上述方法则失效了。因此，我们需要一种算法，来从复杂分布中产生它的样本。

1. 一个蒙特卡洛方法的例子

考虑如下积分问题：
$${\int }_a^{b}h(x)dx\text{\hspace{1em}(1)}$$

假设$h(x)$异常复杂以至于我们很难直接求解上述积分。如果我们能够将$h(x)$分解为一个定义在区间$[a,b]$上的概率密度函数$p(x)$和另一个函数$f(x)$，那么公式（1）中的积分便能够写为$f(x)$在分布$p(x)$上的期望：
$${\int }_a^{b}h(x)dx={\int }_a^{b}p(x)f(x)dx=E_{p(x)}[f(x)]\text{\hspace{1em}(2)}$$

如果我们能够进一步从分布$p(x)$采样一系列样本 x 1 x_1