本文章为生成式对抗网络学习笔记
Evolutionary Generative Adversarial Networks
生成对抗网络(GAN)是从复杂的真实数据中学习相关特征的一种重要的生成模型。生成对抗模型主要包含生成器与判别器两个深度神经网络。生成器的输入为合成图像,其目标是尽可能的学习真实数据中学习相关知识。判别器的输入为生成器的输出和真实图像这两类,其作用使最大可能的识别真实图像与生成图像之间的差距。于是,在模型的每次迭代中,生成器尽可能的想生成与真实图像的相似图像,从而骗过判别器。而判别器尽可能的想对真实图像与合成图像进行区分。两个网络相互博弈,即为生成对抗模型。
而在当前的GAN模型中,存在着很多问题。GAN在训练中,存在着不稳定的问题,往往需要平衡生成器和判别器的训练步数,不让判别器很快的收敛。此外,还存在模式坍塌的问题,即生成多种相似特征的数据。GAN的网络结构对应的超参数的调整往往也需要耗费大量的精力。因此,如何解决GAN对抗网络的以上三个主要缺陷成为当前的研究热点之一。
近年来,进化算法与深度学习结合的模型,取得的较好的结果。我们以(2018, Wang)的Evolutionary Generative Adversarial Networks一文为例,分析遗传算法运用在生成对抗网络中的性能提升。
在原始的GAN,如图1(a),生成器G和判别器D均为神经网络。而在E-GAN中,如图1(b),生成器变成以遗传算法为基础的模型。生成模型包含三个步骤:首先由噪声生成基础的种群;初始种群经过变异操作后产生不同的k个个体
图1 原始GAN与E-GAN模型结构对比
模型细节
原始的GAN: