VAE推导过程

这篇博客介绍了VAE(变分自编码器)的推导过程,通过解析最优概率pϕ和当前模型概率pθ的关系,展示了如何利用詹森不等式构建损失函数L。L被分解为两部分:重构误差和KL散度,揭示了在优化过程中如何平衡数据重建与模型复杂度之间的关系,以逼近真实的概率分布Pθ(x)。
摘要由CSDN通过智能技术生成

p ϕ p_\phi pϕ是理想情况下的概率,最优概率
p θ p_\theta pθ是现在模型的计算概率,向着最优靠近

log ⁡ P θ ( x ) = log ⁡ ∫ P θ ( z , x ) d z = log ⁡ ∫ q ϕ ( z ∣ x ) P θ ( z , x ) q ϕ ( z ∣ x ) d z ≤ E q ϕ ( z ∣ x ) log ⁡ P θ ( z , x ) q ϕ ( z ∣ x ) = L \log P_\theta(x)=\log\int P_\theta(z,x)dz\\ =\log\int q_\phi(z|x)\frac{P_\theta(z,x)}{q_\phi(z|x)}dz\le\mathbb{E}_{q_\phi(z|x)}\log\frac{P_\theta(z,x)}{q_\phi(z|x)}=L logPθ(x)=logPθ(z,x)dz=log

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值