变分推理与VAE(变分自编码器)

本文介绍了变分推理的概念,通过寻找相似数据的未知关系作为目标关系的近似。变分自编码器(VAE)由编码器和解码器组成,其中编码器模拟后验分布p(Z|X),解码器模拟先验分布p(X|Z)。在VAE中,假设后验分布p(Z|X)是正态分布,通过KL散度衡量其与标准正态分布的接近程度。模型包含KL_loss和重构loss,通过平衡两者来优化生成能力和数据拟合。VAE确保每个样本有其专属的正态分布,神经网络学习均值和方差,以实现数据的重构。
摘要由CSDN通过智能技术生成

变分推理:

        需要从数据X中找到未知关系Z,即后验:p(Z|X)。但因为该过程非常困难,我们可以拿已经求得未知关系的相似数据来作为我们的数据X,并使用其未知关系作为我们要求的Z,即q(Z),q(Z)≈p(Z|X)。此时需要计算q(Z)与p(Z|X)间近似程度KL散度,KL越小近似度越大。

变分自编码器:

  1. 编码器部分相当于求后验p(Z|X),解码器部分相当于求先验p(X|Z)。
  2. 在整个VAE模型中,我们并没有去使用p(Z)(隐变量空间的分布)是正态分布的假设,我们用的是假设p(Z|X)(后验分布)是正态分布!!
  3. vae是为每个样本构造专属的正态分布,然后采样来重构。
  4. 给定一个真实样本X
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值