MCMC采样

在介绍《Fast and Provably Good Seedings for K-means》时，作者使用MCMC采样来近似$D^2-sampling$ 的过程，下面我们来介绍一下MCMC算法。

Monte Carlo Approach

在介绍MCMC算法之前，我们先来看蒙特卡洛随机模拟算法。

假设我们需要求解下面这个积分问题：

$$m=\int_a^bf(x)d(x)$$

而这个$f(x)$ 的积分形式比较难求，我们可以通过数值模拟解法近似求解。常用的方法是蒙特卡洛算法：

$$m=\int_a^b\frac{f(x)}{q(x)}q(x)d(x)$$

式中的$q(x)$ 可以看作 $x$ 在区间上的分布，当我们使用 $q(x)$ 采集足够的样本后，便可以使用均值来近似积分：

$$m=\frac{1}{n}\sum^N_{i=1}\frac{f(x_i)}{q(x_i)}$$

以上便是蒙特卡洛算法的核心思想，具体操作时就是需要考虑如何从给定的概率分布 $(x)$ 中采集足够的样本。下面我们来介绍两种简单的采样算法。

采样算法

CDF

假设我们想以 $p(x)$ 的概率采集一些数据，

1. 我们可以先求出它的累积概率函数:
   $$F(x)=\int_a^bp(x)d(x) \ \ \ s.t. a<x<b$$
   2.然后使用均匀分布产生一个样本点 $u$
   $$u\sim u(a,b)$$
   3.最后我们求解出反函数$F^{-1}(u)$
   $$x=F^{-1}(u)$$
   4.$x$ 便可以看作是按照 $p(x)$ 采样得到的样本点

我们可以看一个正态分布的例子：

左图是概率密度函数PDF-$p(x)$，右图是对应的累计概率密度函数CDF-$F(x)$.
我们先随机生成一个样本点 $u=0.8413$， $F^{-1}(u)=1$，所以1就是相应的样本点。
直觉上看，我们随机选择$(0,1)$之间的点，大部分点都i会落在区间$(0.2,0.8)$ 之间，而与之对应的 $F^{-1}(x)$ 则大部分落在$(-1,1)$之间，这也对应了正态分布在$(-1,1)$之间概率密度较大的事实。

这种方法只适用于简单的分布。

Markov Chain

对于某一些马尔科夫链，它能够收敛到一个平稳分布$\pi(x)$，即：

$$\pi = \pi P$$
当马尔可夫链在第 $n$ 个状态收敛之后，从 $n+1$ 往后的状态都可以看作是平稳分布 $\pi$ 的采样点。
所以为了构造一个以 $\pi$ 为平稳分布的马尔科夫链，我们需要满足细致平衡条件:

$$\pi(i)P(i,j)=\pi(j)P(j,i)$$

Metropolis Sampler

M算法要求提案概率 $q(x)$ 是对称的。

$$\\ \\ $$

Metropolis-Hastings Sampler

MH算法加入了 $\alpha$ ，不要求提案概率是对称的，也能满足细致平衡条件。

这两个算法的区别在于提案概率是否是对称的。