变分预备知识 - KL散度

KL散度的两种形式如下：

对于q被高估或者低估的原因为：

首先看上式KL(p||q)的表达式，目标是希望KL(p||q)的值尽可能的小，但是在p(x)的值很大的情况下，为了保证KL(p||q)的值尽可能小，所以q(x)的值需要接近p(x),这样才能保证整个log(p(x)/q(x))整体变小。直观上来说，就是在p(x)的概率密度大的地方，它应该尽量与q(x)的概率密度保持一致，而在p(x)概率密度小的地方，p(x)和q(x)的差别对KL值的影响就很小了。所以会出现q(x)被高估的情况，KL(q||p)同理。

所以在变分推导的过程中，往往使用KL(q||p)的值作为推导的目标函数，实际中会出现锁定在局部极值点的情况。