超级会员免费看
本文介绍了副本交换（Replica Exchange）方法，用于改善马尔可夫链蒙特卡洛（MCMC）在多模态分布采样中的效率。通过创建目标分布的平坦副本并定期交换状态，可以提高不同模态之间的样本转移，解决Gibbs采样中低概率障碍问题。文章详细阐述了副本的创建、交换过程以及实现方法，并探讨了该技术的优缺点和潜在应用。
0.摘要
在本系列的最后一篇文章中，我们将抛开 MCMC 的主流也就是Gibbs采样，这里会讨论一种解决高度多模态采样问题的技术。
正如我们在 Gibbs采样的高斯混合示例中看到的那样，马尔可夫链在我们模拟的有限时间内很难克服低概率障碍。因此，这种卡住的马尔可夫链对分布的采样不太正确，因为它对某些模式进行了过采样，而对其他模式进行了欠采样。
克服这个问题的一个很酷的方法是，不仅要从感兴趣的分布中模拟，还要从它的更平坦的版本（“副本”）中模拟，这些副本可以更容易地跨越低概率区域。如果我们偶尔在这些较平坦的马尔可夫链和对感兴趣的分布进行采样的马尔可夫链之间交换状态，则后一条链最终将解开，因为来自较平坦分布的传入状态更有可能位于不同的模式中。 这是副本交换（RE）的主要思想，也称为“并行回火”（PT）或“大都会耦合马尔可夫链蒙特卡洛”。
1.副本
就像其他几种 MCMC 算法一样，RE
订阅专栏 解锁全文
扫一扫
143
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
