浅析生成对抗网络（GAN）—— Generative Adversarial Nets

这两天在学习Goodfellow大神的生成对抗网络，想在此写此博文来对GAN做一个回顾，也能更深化自己对GAN Nets的理解。（本人还是深度 学习的小白枚，如有讲解不清楚的地方，还请广大博主指导。）

主要思想

对于大多数的深度学习网络，还都是搭建好一个固定的网络，本着一定的目的通过数据去训练该网络直到学到一个很好地效果，以此为目的。如：Alexnet做分类，Lenet用来做mnist手写数字识别。但是Goodfellow大神在2014年对于一个无监督学习提出了一个非常innovative的想法——就是GAN 了。
GAN跟一般的深度学习网络不同，可以说他一共需要train两个网络，一个叫做生成网络（Generative Nets），另一个叫做判别网络（Discriminative Nets）,生成网络的输入是随机噪声（服从一定分布），通过该网络生成一幅与样本一样大小的图像；判别网络输入是一系列样本，也可以是生成网络的输出，用来判别输出是否是样本这一类。做一个形象的比喻：生成网络就好比是假货（fake）的制造者，判别网络好比是警察，每当生成网络生成一个新的假货，就交由判别网络来鉴别该货物是否属于正品（原始数据样本），刚开始G网络（即生成网络）的权重肯定是随机的，因此前几次迭代的生成值对于D网络（判别网络）来说很容易判别；而整个GAN网络就是根据最后D网络的输出的loss来进行优化更新权重的。直到最后D网络很难判断G网络的生成结果是否属于数据样本。

数学方法

主要用到了一些优化方法，而本文作者Goodfellow大神给出的算法也很详细。先介绍一些参数表示:
$x \sim p_z$是G网络输入噪声的分布，$x \sim p_g$是输入的数据服从的分布（一般都服从高斯分布），我们的最终目的是让G网络能够学出一个从输入噪声z到数据样本x的一个映射（mapping） G(z;