论文笔记：Generative Adversarial Nets

论文地址：https://arxiv.org/abs/1406.2661

GAN，顾名思义，生成对抗网络。网络由两部分组成，generative model G 和 discriminative model D ，整个网络的主要功能就是通过不断迭代，使得G网络的生成数据分布趋近于真实数据分布，最终达到D网络的判别概率趋近1/2。

由上式可以看出，G和D的训练其实就是关于函数V(D, G)的极小极大化问题。其中，D(x)表示的是D网络判别x为真的概率，G(z)代表的是G网络生成的数据分布样本。G网络的训练目的是为了使D(G(z))尽可能趋近1，D网络的训练目的是为了使D(G(z))尽可能趋近0，D(x)尽可能趋近1。以下是网络训练的算法流程：

首先，固定G，从真实数据和生成数据中各选取m个样本，通过随机梯度上升来更新D网络，迭代k次后，再固定D，从生成数据中选取m个样本，通过随机梯度下降来更新G网络。比例系数k的存在是由于D网络训练更加费时且在小数据样本上容易过拟合。下面这张图演示了算法的简要过程：

其中，蓝线代表的是D的判别概率，黑线代表的是真实数据分布，绿线代表的是G的生成数据分布。

图a代表的是初始状态，图b代表固定G，训练D，直到D的判别概率趋于稳定。图c代表的是固定D，训练G。图d代表最终结果，G的生成数据分布接近真实数据分布，D的判别概率稳定在1/2左右。

以上就是这篇文章的主要内容。另外，作者还在文章中证明了GAN网络的合理性，即当固定D/G时，G/D存在唯一的最优解。在此不做介绍。

 

 

个人笔记，水平有限，欢迎指正。