生成对抗网络简介

原文详情：http://www.datalearner.com/blog/1051494816250033

本文是Aylien上的一篇博客。之前，我们已经有一篇关于生成对抗网络的简介（Generative Adversarial Networks 生成对抗网络的简单理解），配合之前使用TensorFlow搭建深度神经网络（TFboys：使用Tensorflow搭建深层网络分类器），对于本篇博客的理解将更加容易。

---

最近，大家对生成模型的兴趣又开始出现（OpenAI关于生成模型的案例）。生成模型可以学习如何生成数据，这些数据和我们给定的数据很类似（真实数据）。我们用一个例子来描述这背后的原理，比如，我们希望构建一个模型，可以生成高质量的新闻，那么它必须先学习很多的新闻文章。或者说，模型的内部应当有一个很好的关于新闻文档的表示方式。我们希望用这个表示方式来帮助我们完成相关的任务，比如通过主题给新闻进行分类。

事实上，训练这样的一个模型并不容易，但是最近几年，此类研究进展很大。其中一个非常有名的模型就是生成对抗网络（Generative Adversarial Networks, GANs）。Facebook著名的AI研究院院长和深度学习研究专家Yann LeCun，最近将GANs称为深度学习中最为重要的发展：

“There are many interesting recent development in deep learning…The most important one, in my opinion, is adversarial training (also called GAN for Generative Adversarial Networks). This, and the variations that are now being proposed is the most interesting idea in the last 10 years in ML, in my opinion.” – Yann LeCun

这篇博客剩下的部分就来详细描述GAN的形成，并提供一个非常简单的示例（包含一个TensorFlow代码），使用GAN来解决一个小问题。

判别模型 vs. 生成模型

GAN是一个非常有趣的想法，它首先由University of Montreal的Ian Goodfellow（现在在OpenAI）在2014年提出的。GAN背后的想法包含两个竞争性的神经网络模型。其中一个将噪音作为输入，并产生一些样本（生成器）。另一个模型（判别器）则同时接受生成器生成的数据和真实的数据，并分别出它们的来源。这两个网络坐连续的博弈，其中生成器会生成的数据应当与真实数据越来越像，而判别器则逐渐具有更好的判别能力。这两个神经网络同时训练，并最终使得生成模型生成的数据与真实数据几乎没有差异。

在这里，经常可以看到生成器一般被类比为伪造者尝试生产假币，而判别器被当作是警察，尝试甄别出假币。这个设定和增强学习有点像，生成器会从判别器那里接受到一个奖励信号，可以知道它生成的数据是否正确。但是增强学习和GAN最大的区别是我们可以从判别模型到生成模型反向传播梯度信息。所以生成器知道如何调整参数以更好的生成数据并骗过判别器。

目前，GANs主要运用在自然图像的建模中。他们可以完成非常棒的图像生成任务。他们可以生成比其它用极大似然作为训练目标的模型更锐利的图像。如下图，是GANs产生的一些图像示例：

Generated bedrooms. Source: “Unsupervised Representation Learning with Deep Convolutional Generative Adversarial Networks” https://arxiv.org/abs/1511.06434v2

Generated CIFAR-10 samples. Source: “Improved Techniques for Training GANs” https://arxiv.org/abs/1606.03498

剩余内容请见：http://www.datalearner.com/blog/1051494816250033