变分推理:
需要从数据X中找到未知关系Z,即后验:p(Z|X)。但因为该过程非常困难,我们可以拿已经求得未知关系的相似数据来作为我们的数据X,并使用其未知关系作为我们要求的Z,即q(Z),q(Z)≈p(Z|X)。此时需要计算q(Z)与p(Z|X)间近似程度KL散度,KL越小近似度越大。
变分自编码器:
- 编码器部分相当于求后验p(Z|X),解码器部分相当于求先验p(X|Z)。
- 在整个VAE模型中,我们并没有去使用p(Z)(隐变量空间的分布)是正态分布的假设,我们用的是假设p(Z|X)(后验分布)是正态分布!!
- vae是为每个样本构造专属的正态分布,然后采样来重构。
- 给定一个真实样本X