变分贝叶斯、Variational Inference

在这里插入图片描述
不是大功告成了吗?通常情况下,上式是很难计算的,直观上看,需要考虑所有的都已比较困难了,更不用说能不能积分了,尤其是维度较高的情况,是需要多重积分的。当然,我们可以用Monte Carlo 的方法,不断的采样,然后近似得到结果。但对于高维的情况,我们需要大量的样本才能得到一个比较满意的结果,显然这也不是一个很好的选择。Variational Inference (VI) 为我们提供了另外的一种思路,其基本思想是直接去近似后验分布,通过优化不断地去提高近似程度。下面将介绍VI的基本思想和相关知识。

Evidence Lower Bound (ELBO)

在这里插入图片描述
在这里插入图片描述
log ⁡ p ( x ) \log p(x) logp(x)称为Evidence,ELBO[q]是它的下限。
在这里插入图片描述
最小化ELBO就是变分贝叶斯的任务啦!

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值