MCMC抽样算法要点总结

MCMC抽样算法

---

目的

给定一个已知的概率分布函数 $p(x)$ ，对随机变量 $x$ 进行采样，使其满足 $p(x)$ 概率分布。

---

原理

一个马尔科夫链，对应的概率转移矩阵为 $P$，如果其具有 非周期性 且任意两个状态之间都是 连通 的 ，则不论初始的状态概率分布向量 $\pi_{0}$ 取什么值，在 n 步转移后，状态的概率分布一定会稳定到一个向量 $\pi$ ， $\pi$ 就称为该马尔可夫链的平稳分布。

$$\pi=\pi_{0}*P^{n}$$

非周期性：对于状态i，d为集合 $\{n \mid n \geq 1,P_{ii}^n>0 \}$ 的最大公约数，如果 $d=1$ ，则该状态为非周期的。

互通：两个状态 $i , j$ 连通指，状态 $i$ 可以通过有限的 $m$ 步转移，到达状态$j$

---

如果一个马尔科夫链满足 细致平稳条件，则其一定是收敛的，也就是会达到上述的平稳分布 $\pi$。注意：细致平稳条件只是马尔科夫链收敛的充分条件，不是必要条件。

细致平稳条件：$\pi(i)*P_{ij}=\pi(j)*P_{ji}$，也就是从状态