从零点五开始的深度学习笔记——VAE(Variational AutoEncoder) （二）概率角度理解VAE结构

1. 从联合概率分布构造的损失函数开始的一切

一个优秀的生成网络应该是怎么样的？这个生成网络在训练过程中，对编码器的要求应该是能够将输入$x$编码为一对一的隐变量$z$而不应该是多个$x$对应着同一个$z$。另外，在应用场景下的生成过程中，输入了一个处于训练集中隐变量中间位置的新的隐变量$z^{\prime }$给解码器，其生成的输出$x$应该满足某种在输入训练集中自动学习到的规律(这一点是传统自编码器的弊病，它被许多人诟病的地方在于遇到没有见过的隐变量，网络无法生成一个合乎规律的输出。这样的网络只是一个巨型压缩器，把所有输入的训练数据记忆了起来存储在网络权重中罢了)。比如一堆猫的图片喂给网络吃，吐出来的图片不应该是一张狗的图片或者是五脚猫的图片。

按照这种需求，这个网络的任务应该是逼近输入$x$和隐变量$z$的联合概率分布$p(x,z)$，由于$p(x,z)=p(x|z)p(z)=p(z|x)p(x)$。 如此一来，已知$p(x)$，就能够得到编码器$p(z|x)$; 已知$p(z)$，就能够得到解码器$p(x|z)$。万物皆概率分布，得概率者采样之后得天下。

因此网络的误差是下面公式的散度，真实的未知的联合概率分布与训练好的网络的联合概率分布之间的散度。下文的推导和理解主要参考了下面的博客，整理并归纳了推导过程：
苏剑林. (Mar. 28, 2018). 《变分自编码器（二）：从贝叶斯观点出发 》[Blog post]. Retrieved from https://spaces.ac.cn/archives/5343

1.1 定义

• $x$: 输入
• $z$: 隐变量
• $p(x)$: 数据$x$的真实分布(已知的训练数据)
• $p(x,z)$: 数据$x$和隐变量$z$的真实联合概率分布(确定但未知)
• $q(x,z)$: 网络估计的联合概率分布
• $p(x,z)=p(x|z)p(z)=p(z|x)p(x)$
• $q(x,z)=q(x|z)q(z)=q(z|x)q(z)$

1.2 推导过程

$$\begin{array}{c}\begin{array}{rl}& {\mathbb{D}}_{KL}\left(p(x,z)\left|\right|q(x,z)\right)\\ =& \int \int p(x,z)log\frac{p(x,z)}{q(x,z)}dzdx\\ =& \int \int p(x)\left[p(z|x)log\frac{p(x)p(z|x)}{q(x,z)}dz\right]dx\\ =& {\mathbb{E}}_{x\sim p(x)}\left[\int p(z|x)log\frac{p(x)p(z|x)}{q(x,z)}dz\right]\\ =& {\mathbb{E}}_{x\sim p(x)}\left[\int p(z|x)log(p(x))dz\right]+{\mathbb{E}}_{x\sim p(x)}\left[\int p(z|x)log\frac{p(z|x)}{q(x,z)}dz\right]\\ =& \int log(p(x))[\int p(z|x)p(x)dz]dx+{\mathbb{E}}_{x\sim p(x)}\left[\int p(z|x)log\frac{p(z|x)}{q(x,z)}dz\right]\\ =& \int p(x)log(p(x))dx+{\mathbb{E}}_{x\sim p(x)}\left[\int p(z|x)log\frac{p(z|x)}{q(x,z)}dz\right]\\ =& {\mathbb{E}}_{x\sim p(x)}[log(p(x))]+{\mathbb{E}}_{x\sim p(x)}\left[\int p(z|x)log\frac{p(z|x)}{q(x,z)}dz\right]\end{array}\end{array}$$
右侧第二项可以继续展开：
$$\begin{array}{c}\begin{array}{rl}& {\mathbb{E}}_{x\sim p(x)}\left[\int p(z|x)log\frac{p(z|x)}{q(x,z)}dz\right]\\ =& {\mathbb{E}}_{x\sim p(x)}\left[\int p(z|x)log\frac{p(z|x)}{q(x|z)q(z)}dz\right]\\ =& {\mathbb{E}}_{x\sim p(x)}\left[-\int p(z|x)log(q(x|z))dz\right]+{\mathbb{E}}_{x\sim p(x)}\left[\int p(z|x)log\frac{p(z|x)}{q(z)}dz\right]\\ =& {\mathbb{E}}_{x\sim p(x)}\left[{\mathbb{E}}_{z\sim p(z|x)}[-log(q(x|z))]+{\mathbb{D}}_{KL}(p(z|x)||q(z))\right]\end{array}\end{array}$$

因此总的表达式可以简化为：
$$\begin{array}{c}{\mathbb{D}}_{KL}\left(p(x,z)\left|\right|q(x,z)\right)={\mathbb{E}}_{x\sim p(x)}\left[{\mathbb{E}}_{z\sim p(z|x)}[-log(q(x|z))]+{\mathbb{D}}_{KL}(p(z|x)||q(z))\right]+const\end{array}$$
其中，$const={\mathbb{E}}_{x\sim p(x)}[log(p(x))]$是常数，因为真实分布是不变的，且其期望是确定的。

1.3 损失函数的理解

1. ${\mathbb{D}}_{KL}(p(z|x)\left|\right|q(z))$散度趋于零，表示希望两者分布能够趋于一致，如此一来，隐变量$z$将与输入$x$无关，因为只有两个随机变量无关时，$p(z|x)=q(z)$。用人话翻译一下就是，不希望输入$x$和隐变量$z$相关，从而提高模型的泛化能力。
2. ${\mathbb{E}}_{z\sim p(z|x)}[-log(q(x|z))]$趋于零表示，由$p(x|z)$采样出来的隐变量$z^{\prime }$所对应的条件概率$q(x|z^{\prime })$能够趋向于1。用人话翻译一下就是，希望编码器$p(z|x)$得到的隐变量$z^{\prime }$，输入到解码器$q(x|z^{\prime })$后能够以无限趋近于1的概率生成的$x$。

这两者显然是相互矛盾的，第一点的泛化能力提高，会导致第二点模型还原能力下降, 反之亦然。这种天然的拮抗关系，是VAE模型最大的优势，因为从模型上就已经将两者平衡起来了，不需要设计者自己调整权重。

2. 总结

至此，我们并没有涉及到任何的网络结构，但从损失函数中，不难看出，为了组成一个能够满足我们在文章开头所畅想的优秀的生成网络所应该具备的基本条件，这个网络架构所需要用到的部件有 1). $q(z)$, 2). $p(z|x)$ 以及最后的 3). $p(x|z)$。下一篇博客将开始考虑实现VAE的具体细节。

祝周四分之七愉快！

2022年8月25日
Dianye Huang