Generative Adversarial Nets 生成式对抗网络

深度学习志在发现丰富的，多层的模型。至今为止，深度学习最大的成就就是判别式模型。它可以将一个高维、强感知的输入映射到一个经典的标签。这个成果是基于传统的BP算法和dropout算法。但是，由于深度学习模型在处理一些近似计算以及如何在生成过程中平衡各线性分段单元关系上的困难，作者提出了一个全新的生成模型解决上述问题。

同时训练两个模型：一个产生式模型，记为G，用来确定数据的分布；另一个是判别式模型，记为D，可以用来预测数据是来自训练样本而不是G的概率。在这个对抗网络框架中，生成模型与对抗模型产生了竞争：训练G的目的是让D尽可能的犯错误，让其无法判断一个图像是产生的还是来自训练样本的。这个框架对应的是一个极大极小双层游戏规则，也就是说，乙方的得势必定会导致另一方的失势，不存在共赢局面。当生成函数G和D的空间存在一个最优解时，G可以完全恢复出训练数据的分布。这个时候发现D在任何时候都等于1/2，当作者将D和G定义为多层感知器时，整个系统可以通过BP算法进行训练。这个模型最大的特点就是：在训练或者产生样本的过程中，不需要马尔科夫链或者其他展开的近似推理网络。

关于生成模型，可以将它看作一个伪造假币的团伙，它试图制造假币并能不被发觉的进行使用。这个游戏产生的竞争促使每个团队不断提高自己的模型，直到假币可以被识别。