小白都能读懂的Gibbs Sampling

Gibbs Sampling

假设二维场景下，状态(x, y)转移到(x’, y’)，可以分为三种场景

• 平行于y轴转移，如上图中从状态A转移到状态B
• 平行于x轴转移，如上图中从状态A转移到状态C
• 其他情况转移，如上图从状态A转移到状态D

A->B:

$$p(x_1,y_1)p(y_2|x_1)=p(x_1)p(y_1|x_1)p(y_2|x_1)$$

B->A:

$$p(x_1,y_2)p(y_1|x_1)=p(x_1)p(y_2|x_1)p(y_1|x_1)$$

即:
$$P(A)p(y_2|x_1)=P(B)p(y_1|x_1)$$
同理，对于场景二:
$$P(A)p(x_2|y_1)=P(C)p(x_1|y_1)$$
对于场景三，规定不允许转移
$$P(A)\ast 0=P(D)\ast 0$$
实际上，从状态A转移到状态D可以通过一次场景一转移和一次场景二转移得到。所以即使规定A到D的转移概率为0，也满足A到D可以经过有限次转移达到。
于是，我们可以构造二维平面上任意两点之间的转移概率矩阵Q:

$$Q(A->B)=p(y_B|x_1)---x_A=x_B=x_1$$
$$Q(A->C)=p(x_C|y_1)---y_A=y_C=y_1$$
$$Q(A->D)=0---其他$$
这里的$y_B$就是$y_2$,$x_C$就是$x_2$,由此可得:
$$p(A)Q(A->B)=p(B)Q(B->A)$$
$$p(A)Q(A->C)=p(C)Q(C->A)$$
对于这样的概率转移Q，很容易验证对于平面上任意两点X和Y，满足细致平稳条件:
$$p(X)P(X->Y)=p(Y)P(Y->X)$$

什么是细致平稳条件？

假设向量v:
$$v=[0.6,0.4]$$
和一个概率转移矩阵P:
$$P=\left[\begin{array}{cc}0.7& 0.3\\ 0,8& 0.2\end{array}\right]$$
当v与n个P相乘，n趋于无穷大时，发现最后得到的向量会收敛到一个稳定值:
$$\underset{n->\infty }{\lim }v{p}^n=[0.73,0.27]$$
代码验证:

import numpy as np

v = np.array([0.6, 0.4])

P = np.array([[0.7, 0.3],[0.8, 0.2]])

for n in range(1000):
    v = np.dot(v, P)
    print v

Out:
...
[0.72727273 0.27272727]
[0.72727273 0.27272727]

细致平衡条件（Detailed Balance Condition）:给定一个马尔科夫链，分布π和概率转移矩阵P，如果下面等式成立
$${\pi }_i{P}_{ij}={\pi }_j{P}_{ji}$$
则此马尔科夫链具有一个平稳分布（Stationary Distribution）π

回到上面，直观理解就是从X点走到Y点，需要沿着坐标轴轮换着走若干步，其路径就是一条折线
最后这个二维空间的马氏链会收敛到平稳分布p(x,y)

最后，Gibbs Sampling算法的大概流程

• 随机初始化$X_0=x_0$,$Y_0=y_0$
• 对t=0,1,2,…,循环采样
  1、$y_{t+1}$ ~ p(y|x_{t})
  2、$x_{t+1}$ ~ p(x|y_{t+1})

马氏链的转换就是轮换着沿着x轴、y轴不断走折线，得到样本$(x_0,y_0),(x_0,y_1),(x_1,y_1),(x_1,y_2),...,$直到马氏链收敛，也就是平稳。