变分自编码器ELBO的求解---随机梯度变分估计（SGVB）

在变分自编码（VAE）一文中我们已经求解了VAE的ELBO,这里再进一步分析求解ELBO的方法，也就是SGVB估计。

两种形式的ELBO

变分自编码器的ELBO其实有两种形式：
第一种是：
$$\begin{array}{rl}ELBO=& E_{q_{\phi }(z|x)}[log\frac{p_{\theta }(x,z)}{q_{\phi }(z|x)}]\\ =& E_{q_{\phi }(z|x)}[log\frac{p_{\theta }(z)p_{\theta }(x|z)}{q_{\phi }(z|x)}]\\ =& E_{q_{\phi }(z|x)}[log{p}_{\theta }(x|z)]-KL[q_{\phi }(z|x)||p_{\theta }(z)]\end{array}\text{\hspace{1em}(1)}$$
第二种是：
$$\begin{array}{rl}ELBO=& E_{q_{\phi }(z|x)}[log\frac{p_{\theta }(x,z)}{q_{\phi }(z|x)}]\\ =& E_{q_{\phi }(z|x)}[log\frac{p_{\theta }(x,z)}{q_{\phi }(z|x)}]\\ =& E_{q_{\phi }(z|x)}[log{p}_{\theta }(x,z)]+H_{q_{\phi }(z|x)}(z)\\ 其中,H_{q_{\phi }(z|x)}(z)=& {\int }_z-q_{\phi }(z|x)log{q}_{\phi }(z|x)dz\end{array}\text{\hspace{1em}(2)}$$

SGVB估计求解ELBO

先求解（1）式，先考虑（1）式中的第一项，第一项式期望的形式，期望可以通过蒙特卡洛估计来求解，不懂的可以看这篇博客蒙特卡洛估计。

从$q_{\phi }(z|x)$中依据z的概率分布采样L个点，即
$$E_{q_{\phi }(z|x)}[log{p}_{\theta }(x|z)]\approx \frac{1}{L}\sum _{l=1}^{L}log{p}_{\theta }(x|z^{(l)})\text{\hspace{1em}(3)}$$
这样通过采样貌似可以，但是我们还要通过采样来反向梯度优化$\phi$，这样采样之后$E_{q_{\phi }(z|x)}[log{p}_{\theta }(x|z)]$就与$\phi$无关了，因此这个操作是不可导的，就需要重参数化技巧来使采样操作可导。我们假设$z^{(l)}=g_{\phi }(x,{\epsilon }^{(l)})，{\epsilon }^{(l)}\sim p(\epsilon )$，其中$p(\epsilon )和g_{\phi }$都是形式已知的。这样（3）式对$\phi$就可导了，因为$g_{\phi }$中含有参数$\phi$。
（3）式就变成了：
$$\begin{gathered} E_{q_{\phi }(z|x)}[log{p}_{\theta }(x|z)]\approx \frac{1}{L}\sum _{l=1}^{L}log{p}_{\theta }(x|g_{\phi }(x,{\epsilon }^{(l)})) \\ {\epsilon }^{(l)}\sim p(\epsilon )\text{\hspace{1em}(4)} \end{gathered}$$
（4）式就是用SGVB估计得到的。
所以（1）式可进一步写成
$$\begin{array}{rl}L(\phi ,\theta ,x)=& \frac{1}{L}\sum _{l=1}^{L}log{p}_{\theta }(x|z^{(l)})-KL(q_{\phi }(z|x)||p_{\theta }(z))\\ =& \frac{1}{L}\sum _{l=1}^{L}log{p}_{\theta }(x|g_{\phi }(x,{\epsilon }^{(l)}))-KL(q_{\phi }(z|x)||p_{\theta }(z))\end{array}\text{\hspace{1em}(5)}$$
其中${\epsilon }^{(l)}\sim p(\epsilon )$，

在实际计算时，我们假设$p_{\theta }(z)\backsim N(z;0,I)，q_{\phi }(z|x)\backsim N(z;\mu ,\sigma )，z的维度是J$，二者的KL散度可以得到解析形式：


因此，最后（5）式就变成了：

$$\begin{array}{r}L(\phi ,\theta ,x)=\frac{1}{L}\sum _{l=1}^{L}log{p}_{\theta }(x|g_{\phi }(x,{\epsilon }^{(l)}))+\frac{1}{2}\sum _{j=1}^J(1+log({\sigma }_j^2)-{\mu }_j^2-{\sigma }_j^2))\\ 其中{\epsilon }^{(l)}\sim p(\epsilon )\end{array}\text{\hspace{1em}(6)}$$