从苹果的第一篇机器学习博客中得到的启发

文章的地址https://machinelearning.apple.com/2017/07/07/GAN.html

1. 首先这篇文章的模型和GAN很相似，区别在于GAN是符合某个分布的序列生成图片，而文章中的模型是从合成的图片生成图片，达到增强合成图片真实性的效果。之前也看过一些改变生成优化器输入的文章，让生成器学习目标分布。

2.怎么保持数据的标注

为了生成有标注的数据，将合成图片的标注用作生成数据的标注。为了达到这个目的，计算对抗损失时就要对优化图片和合成图片之间的差异性加一个正则化约束。

3.怎么避免引入噪声。

以往基于 GANs 的研究中，由于生成器 G 和鉴别器 D 之间是对抗交替迭代更新的，这就会导致生成器 G 倾向于过分强化图像中的某一些特征，鉴别器 D 也跟着去重点关注这些特征，结果就会造成像素的漂移、在图像中形成瑕疵。这些瑕疵最终会成为网络学习结果的一部分，就降低了输出图像的真实性。本文采用的方法是建立一个基于局部块的判别器而不是整体图形的判别器，统计每个块的对抗失真损失。

4.是模型具有记忆

其实也就是不断学习，让生成器从目标分布学习而不是从一个novel的分布学习。苹果研究员们在模型里设置了一个缓冲区，缓冲区里存的是过去生成的图片，在送入判别器的mini-batch中，不仅有现在生成的，还有之前生成的图片。就是把所有的生成图片都当做假的，以前的你认为是真的我现在告诉你他也是假的，让你重新学。