gibbs采样算法的理解

马尔科夫过程：

构造一个马氏链，使得为平稳分布时，当t足够大，有：

 

有：

上式表明，从中采样一个样本的概率，等于前一时刻从分布中采到样本时,再从分布中采一个样本的概率。

因此，从中采样，等价于从采样。

问题转为，要选择一个合适的状态转移概率来构造马氏链，使得为平稳分布。

在满足以下细致平衡条件，状态转移概率构造的马氏链，可使得为平稳分布：

  （充分不必要条件）

直接构造状态转移概率很困难，定义接受率：

其中可以是任意容易采样的分布。定义状态转移概率

，

可以证明，，满足细致平稳条件。

 

已有一个从分布的样本，可以从分布采样，作为下一个样本。如何从分布中采样？

直接从采样不容易，可以采用接受拒绝方法采样。从提议分布，再以为接受率来决定是否接受该样本。

从中采集样本，计算样本在分布下的概率，如果等于1,则保留该样本，否则，利用拒绝接受采样方法来决定是否保留该样本。

gibbs采样

当X为高维的随机变量时，定义

则接受率：

所以，gibbs采样是接受率恒等于1的MH采样。

无向图模型未归一化的概率分布：

，必须除以配分系数Z，才能获得有效分布

其中配分系数是未归一化概率所有状态的积分（或求和）：

由于难以通过解析法计算Z,可以用mcmc采样来计算Z的近似解。