本文深入探讨Metropolis-Hastings采样算法，解释其工作原理，证明细致平稳条件，并通过实例展示如何选择k分布，特别是在处理高维参数空间中的贝叶斯推断问题时的应用。此外，还提供了对称与非对称q(.)函数的选择策略，以及一个二元高斯分布的采样示例。
前面一篇文章贝叶斯统计：初学指南介绍了最简单的 Metropolis 采样方法，本文将介绍另一种采样 Metropolis-Hastings ，并且会对前文介绍的例子给出证明，为什么 Metropolis 采样work。
回顾
我们简单的回顾下前文的内容，我们首先介绍了为什么需要有mcmc，假设有一个贝叶斯公式：
我们为了求得后验分布，需要去计算P(D)
但是由于好多分布其参数空间非常大，很难计算P(D)，于是就提出了数值逼近的方法，但是由于参数空间巨大，我们就要高效的去采样，于是就有了mcmc方法，mcmc方法的一般套路：
先在参数空间中选择一个
在参数空间中提议一个新的位置
根据先验信息和观测数据决定接收或者拒绝
如果接收跳跃，则跳转到新的位置，并且返回到 step1
如果拒绝，则保持当前位置并返回到 step1
连续采用一系列点，最后返回接受的点集合
不同的 mcmc 算法的区别在于怎么选择跳跃方式已经如何决定是否跳跃，前面一篇贝叶斯统计：初学指南介绍了 Metropolis 对上述过程的处理，本文会介绍 Metropolis-Hastings 方法。
Metropolis-Hastings
先介绍算法的整个流程：
下面开始进行回答，为什么上面
最低0.47元/天 解锁文章
扫一扫
3474
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
