12.1 GAN的理论知识
GAN主要由两部分构成:generator(生成式模型)和discriminator(判别式模型):
● generator主要是从训练数据中产生相同分布的samples,对于输入x,类别标签y,在生成式模型中估计其联合概率分布;
● discriminator 则是判断输入是真实数据还是generator生成的数据,即,估计样本属于某类的条件概率分布。discriminator采用传统的监督学习的方法。
二者结合后,经过大量次数的迭代训练会使generator尽可能模拟出以假乱真的样本,而discriminator会有更精确的鉴别真伪数据的能力,最终整个gan会达到所谓的纳什均衡。即discriminator对于generator的数据鉴别结果为50%,50%。
生成器输入一个随机编码向量,输出一个复杂样本(如图片);判别器输入一个复杂样本,输出一个概率表示该样本是真实样本还是生成器产生的假样本。判别器的目标是区分真假样本,生成器的目标是让判别器区分不出真假样本,两者目标相反,存在对抗。
对于前面学习的监督学习神经网络都属于discriminator,下面对generator介绍一下。
12.1.1 生成式模型应用