p ϕ p_\phi pϕ是理想情况下的概率,最优概率
p θ p_\theta pθ是现在模型的计算概率,向着最优靠近
log P θ ( x ) = log ∫ P θ ( z , x ) d z = log ∫ q ϕ ( z ∣ x ) P θ ( z , x ) q ϕ ( z ∣ x ) d z ≤ E q ϕ ( z ∣ x ) log P θ ( z , x ) q ϕ ( z ∣ x ) = L \log P_\theta(x)=\log\int P_\theta(z,x)dz\\ =\log\int q_\phi(z|x)\frac{P_\theta(z,x)}{q_\phi(z|x)}dz\le\mathbb{E}_{q_\phi(z|x)}\log\frac{P_\theta(z,x)}{q_\phi(z|x)}=L logPθ(x)=log∫Pθ(z,x)dz=log∫
VAE推导过程
于 2021-11-02 10:29:17 首次发布
这篇博客介绍了VAE(变分自编码器)的推导过程,通过解析最优概率pϕ和当前模型概率pθ的关系,展示了如何利用詹森不等式构建损失函数L。L被分解为两部分:重构误差和KL散度,揭示了在优化过程中如何平衡数据重建与模型复杂度之间的关系,以逼近真实的概率分布Pθ(x)。
摘要由CSDN通过智能技术生成