变分推断公式推导

变分推断是通过已知简单分布近似逼近需要推断的复杂分布，从而求得局部最优的确定解的一种近似推断方法。
令$x$为观测到的变量，$z$为$x$所依赖的隐变量，
观测到的变量$x$的概率密度函数为

$$\begin{equation} p(x|\Theta)=\prod_{i=1}^N\sum_zp(x_i,z|\Theta) \end{equation}$$
公式(1)所对应的对数似然函数为
$$\begin{equation} \ln p(x|\Theta)=\sum_1^Nln\lbrace \sum_zp(x_i,z|\Theta)\rbrace \end{equation}$$
其中， $\Theta$为参数向量。
当使用 $EM$算法来估计隐变量 $z$和参数向量$\Theta$时，在 $M$步，通过对$\mathcal{Q}$函数取最大化来迭代求最优解，即
$$\begin{equation} \begin{aligned} \Theta^{t+1}&=\mathop{argmax}\limits_{\Theta}\mathcal{Q}(\Theta;\Theta^t)\\\ &=\mathop{argmax}\limits_{\Theta}\sum_zp(z|x,\Theta^t)\ln p(x,z|\Theta) \end{aligned} \end{equation}$$
公式(3)中， $Q(\Theta;\Theta^t)$为 $\ln p(x,z|\Theta)$在 $p(z|x,\Theta^t)$条件下的期望。
通常 $p(z|x,\Theta^t)$的真实分布很难求出，所以变分推断即是用简单的分布来代替所要求的复杂分布。
令 $p$的近似分布为$q$,则
$$\begin{equation} \ln p=\mathcal{L}(q)+KL(q||p) \end{equation}$$
其中
$$\begin{equation} \mathcal{L}(q)=\int q(z)\ln \lbrace \frac{p(x,z)}{q(z)} \rbrace dz \end{equation}$$
$$\begin{equation} KL(q||p)=-\int q(z)\ln \frac{p(z|x)}{q(z)}dz \end{equation}$$
其中 $\mathcal{L}(q)$为函数 $q$的对数似然，$KL(q||p)$为 $p$与$q$的 $KL$散度，由式子可以看出 $\mathcal{L}(q)$即为 $\ln p$的下界。
因为 $p(z|x,\Theta^t)$会很复杂，所以借助变分推断，假设 $z$服从分布
$$\begin{equation} q(z)=\prod_{i=1}^Mq_i(z_i) \end{equation}$$
即假设多变量 $z$可以拆解为一系列相互独立的多变量$z_i$，由于指数族具有良好的性质，在变分推断里通常将 $q_i$变换为指数函数，这个时候就有
$$\begin{equation} \mathcal{L}(q)=\int \prod \limits_i q_i\lbrace \ln p(x,z)-\sum \limits_i\ln q_i \rbrace dz \end{equation}$$
将公式(8)的右侧整理成关于某一个多变量 $z_j$的函数，那么公式(8)可以写为
$$\begin{equation} \begin{aligned} \mathcal{L}(q)&=\int q_j \Bigg \lbrace \int \ln p(x,z)\prod \limits_{i\neq j}q_idz_i\Bigg \rbrace dz_j-\int q_j\ln q_jdz_j+const\\\ &=\int q_j\ln \widetilde p(x,z_j)dz_j-\int q_j\ln q_jdz_j+const \end{aligned} \end{equation}$$
其中
$$\begin{equation} \ln \widetilde p(x,z_j)=\int \ln p(x,z)\prod \limits_{i\neq j}q_idz_i+const \end{equation}$$
因为公式(10)是关于 $q_j$的函数，我们固定 $q_{i\neq j}$然后最大化 $\mathcal{L}(q)$，
可以看出，公式(9)等于 $-KL(q_j||\widetilde p(x,z_j))$，所以当 $q_j=\widetilde p(x,z_j)$时， $\mathcal{L}(q)$取最大， $\ln q_j(z_j)$的最优解 $\ln q_j^*(z_j)$为
$$\begin{equation} \ln q_j^*(z_j)=\mathbb{E_{i\neq j}}[\ln p(x,z)]+const \end{equation}$$
因为不知道 $const$的具体值，所以可以通过归一化 $q_j^*(z_j)$即
$$\begin{equation} q_j^*(z_j)=\frac{exp(\mathbb{E_{i\neq j}}[\ln p(x,z)])}{\int exp(\mathbb{E_{i\neq j}}[\ln p(x,z)])dz_j} \end{equation}$$