《深度学习》学习笔记（五）

这篇博文主要是介绍GAN（Generative Adversarial Network）。

Generation

为什么输出有时候需要是一个分布
The same input has different outputs.

algorithm



train generator$\iff$ train discriminator

Theory behind GAN

Divergence是如何计算的呢

Tips for training

Generator and Discriminator needs to match each other.
拿GAN来生成文字是比较麻烦的：

这里不能用gradient descent的情况下，可以尝试reinforcement learning（RL）

过去没办法用GAN来产生文字，现在OK的

Evaluation of Generation

Generator的评估方法：

1. Quality of Image
   
2. Diversity-Mode Collapse
   到后面的时候，Generator产生的image总是差不太多
   
3. Diversity-Mode Dropping
   生成样本只集中于某一群。
   
   
   
   

Conditional Generation

现在Generator不仅要生成realistic images，而且还要与输入的text（condition）相匹配。

Learning from Unpaired Data

其他风格转换的GAN
StarGan可以在多种风格之间做转换