GAN公式原理推到

上一篇论文中介绍了GAN[1]的原理，这篇继续介绍下它的公式推导的具体的过程，如果需要原理介绍的，可以回到上一篇关于GAN的文章的介绍中。（http://blog.csdn.net/susanzhang1231/article/details/73604302）

这张图给出了GAN训练的过程：首先固定G中的参数，训练一个可以用于分类的D，然后固定D的参数，调整G的参数，使其产生的图片送入当前的D中可以迷惑D认为它是真的图片（其实它是假的）。然后再固定此时的G，训练D，使得D可以区分当前的G产生的图片其实是假的。这样不断的提高G和D。

在正式推导GAN的公式之前，先加一点题外只是，KL散度（主要用于区分两个分布的一个评判方法）