自编码变分贝叶斯

自编码变分贝叶斯

标签（空格分隔）： 机器学习

---

深度解读Diederik P. Kingma和Max Welling的论文 Auto-encoding variational bayes1，对中间涉及的公式进行了详尽的推导。最后给出了变分自编码器的Tensorflow示例代码。

---

0. 符号

数据点： $x$ , $x^{(i)}$
数据集： $X=\{ x^{(i)} \}_{i=1}^N$，满足 $i.i.d$ 条件
隐变量： $z$ , $z^{(i)}$
生成模型参数： $\theta$
变分参数： $\phi$
噪声变量： $\epsilon$

1. 问题背景

假设数据集 $X$ 是由未观测到的连续随机变量 $z$ 的某个随机过程生成的。该过程分为两个步骤：

• 第一步：从某个先验分布 $p_{\theta^*}(z)$ 生成 $z^{(i)}$；
• 第二步：从某个条件分布 $p_{\theta^*}(x|z)$ 生成 $x^{(i)}$。

其中，先验 $p_{\theta^*}(z)$ 和似然 $p_{\theta^*}(x|z)$ 分别来自参数分布族 $p_{\theta}(z)$ 和 $p_{\theta}(x|z)$ ，且这两个参数分布族的概率密度函数关于 $\theta$ 和 $z$ 几乎处处可微。
然而，真实参数 $\theta^*$ 和隐变量 $z^{(i)}$ 均是未知的。
上述这两个步骤分别相当于“编码”和“解码”，这应该就是称之为“自编码变分贝叶斯”的原因吧。
一个自然的想法是用最大似然法来求解未知的参数，即最大化边际似然。然而现实的情况是
1. 直接由等式$p_{\theta}(x) = \int p_{\theta}(x|z) p_{\theta}(z) \mathbb{d}z$来估计边际似然是不可能的；
2. 真实后验$p_{\theta}(z|x)=p_{\theta}(x|z) p_{\theta}(z)/p_{\theta}(x)$ 同样是难以估计的。
因此，只能从另外的途径来解决这个问题。

2. 变分下界

引入识别模型（recognition model） $q_{\phi}(z|x)$ 来近似真实后验分布 $p_{\theta}(z|x)$ ，这相当于一个概率编码器。
用KL散度来衡量 $q_{\phi}(z|x)$ 到 $p_{\theta}(z|x)$ 的距离：

$$\begin{aligned} \mathop{D_{KL}} \left[ q_{\phi}(z|x) \| p_{\theta}(z|x) \right] &= \int_{q_{\phi}(z|x)} q_{\phi}(z|x) \log \frac{q_{\phi}(z|x)}{p_{\theta}(z|x)} \mathbb{d}z \\ &= \mathop{E_{q_{\phi}(z|x)}} \left[ \log q_{\phi}(z|x) - \log p_{\theta}(z|x) \right] \\ &= \mathop{E_{q_{\phi}(z|x)}}\left[ \log q_{\phi}(z|x) - \log \frac{p_\theta(x,z)}{p_\theta(x)} \right]\\ &= \mathop{E_{q_{\phi}(z|x)}}\left[ \log q_{\phi}(z|x) - \log p_\theta(x,z) \right] + \log p_\theta(x) \end{aligned}$$
记 $$\mathcal{L}(\theta,\phi;x) = \mathop{E_{q_{\phi}(z|x)}}\left[ -\log q_{\phi}(z|x) + \log p_\theta(x,z) \right]\tag{1}$$ ，则有 $$\log p_\theta(x) = \mathop{D_{KL}} \left[ q_{\phi}(z|x) \| p_{\theta}(x|z) \right] + \mathcal{L}(\theta,\phi;x)$$ 因为 $\mathop{D_{KL}} [*] \ge 0$，所以 $$\log p_\theta(x) \ge \mathcal{L}(\theta,\phi;x)$$
$\mathcal{L}(\theta,\phi;x)$ 称为边际似然 $\log p_\theta(x)$ 的 变分下界（variational lower bound）。
现在，最大化边际似然的问题可以转化为最大化其变分下界的问题。

L(θ,ϕ;x)=Eqϕ(z|x)[−logqϕ(z|x)+logpθ(x,z)]=Eqϕ(z|x)[−logqϕ(z|x)+logpθ(x|z)pθ(z)]=Eqϕ(z|x)[−logqϕ(z|x)+logp