8. An Introduction to MCMC for Machine Learning (4)

Machine Learning 专栏收录该内容
15 篇文章 8 订阅 ¥9.90 ¥99.00

MCMC中的深入论题

目录
3.6 辅助变量采样器
3.6.1 混合蒙特卡洛(详见PRML)
3.6.2 切片采样
3.6.3 模拟回火
3.7 可逆跳跃MCMC

3.6 辅助变量采样器

思路:从增广分布p(x,u)中采样往往比从p(x)中采样更容易,其中u是辅助变量。然后,根据p(x,u)抽样(x(i),u(i)),然后忽略样本u(i),就可以得到边际样本x(i)。

在这里,我们将重点介绍两个众所周知的辅助变量方法的例子,即混合蒙特卡罗切片抽样

3.6.1 混合蒙特卡罗(HMC)

Duane(1987)和尼尔(1996)概述的“跨越【leapfrog】”HMC算法。混合蒙特卡罗(HMC)是一种MCMC算法,包含关于目标分布梯度信息以改善高维混合。

汉密尔顿蒙特卡洛(HMC)采样是一种动力学采样方法,也是现如今最通用的采样方法。由于MH算法与吉布斯采样方法中下一个样本点与当前样本点之间的相关性都不可避免会很强,因为当前样本点是下一个样本点的条件。这样的采样路径是随机游走的,对目标分布的探索效率比较低下。

通过引入 辅助的动量变量,把待采样的变量作为位置变量,把二者纳入一个势能与动能守恒的动力学系统,通过采样点在动力学系统中随机的游走来得到两个

  • 0
    点赞
  • 0
    评论
  • 2
    收藏
  • 打赏
    打赏
  • 扫一扫,分享海报

©️2022 CSDN 皮肤主题:深蓝海洋 设计师:CSDN官方博客 返回首页

打赏作者

正则-吼吼吼

你的鼓励将是我创作的最大动力

¥2 ¥4 ¥6 ¥10 ¥20
输入1-500的整数
余额支付 (余额:-- )
扫码支付
扫码支付:¥2
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、C币套餐、付费专栏及课程。

余额充值