GAN
简介
什么是Generator(生成器)
输入X和一个Simple Distribution(简单分布,如正态分布)中的一个Z,得到一个Complex Distribution
简单来说就是一个固定值加上一个分布中的随机值,输入到网络中,得到一个值,随着Z的不同,得到的Y也不同,最终形成一个复杂分布。
能输出Complex Distribution的Network,即Generator。(输出的是一个分布)
- Simple意思是我们知道这个分布的表达式()
为什么要Generator,什么时候用到?
例如:
下图为进行糖豆人行为预测
以往的一对一输入输出会导致,同一批训练资料,会得到一个同时向左转和向右转的训练结果,因此我们需要使用Generator来解决这个问题。
通过Generator,加入一个Simple Distribution来生成一个包含向左转或向右转的Complex Distribution。
总结
总的来说,就是当我们任务需要创造力,即想要找到一个Function能同一个输入得到不同的输出,而且这些输出都是对的
还有一些需要创造力的任务,(老师是个老二次元了(=。=))例如:
上述的答案就是一个Complex Distribution,答案都是对的且多样的。
知名的Generator Networ —— Generative Adversarial Network(GAN)
unconditional generation
未输入X的形况下的generation ——unconditional generation
从一个Normal Distribution(正态分布)中生成Z输入到Generator中,得到一个Complex Distribution
Generator完成:输入一个低维的向量,得到一个高维的向量
- 一张图片实际是由一个高维的向量组合而成,
- 例如:一张彩色图假设为64x64像素,则输出的向量为64x64x3(RGB)
Discriminator —— 判别器(架构也是Neural Network,根据数据集选择)
符合输出1.0,不符合输出0.1,以此类推,用来判别 输出结果是否符合预期结果
Basic Idea of GAN
Generator想办法骗过Discriminator,Discriminator想办法不被Generator骗过——adversarial(对抗)
如上图,Generator一代生成的是无效数据,Discriminator根据生成的数据集中是否有眼睛来判断是否为二次元图片,因此,Generator调整参数,变为Generator二代,生成出有眼睛的图片,Discriminator也调整参数,变成Discriminator二代,根据是否有嘴巴来判断是否为二次元图片,以此类推,一直迭代。
Algorithm——具体算法
Generator和Discriminator都是两个Neural Network。
训练Discriminator——固定Generator
Discriminator不被Generator骗过
- 在一开始Generator的参数是随机初始化的,因此输入randomly sampled vector得到的都是一些杂讯,如上图的标识0处图像,且Generator的参数是Fix的(固定的)。
- 根据自己的Database,sample出一些测试集,然后用测试集和Generator的输出结果来训练Discriminator,让Discriminator能分辨测试集和输出结果的差异,具体来说可能向上图分类1和0,让Discriminator做一个分类的问题——将1分成同一类,0分成另一类,或者回归的问题——看到测试集的图输出1,看到输出集的图输出0。然后迭代,Update Discriminator的参数。
训练Generator——固定Discriminator
Generator生成的图片要骗过Discriminator
- 我们将一个vector输入Generator,然后生成的结果输出Discriminator,最后输出一个分数,我们期待最终分数越高越好
- 我们可以将两个Neutral Network接起来,看成一个large network,前几层的输出一个结果,这个结果可以组合成一张图片(实则Generator的功能),然后将结果输入到后几层,得到一个分数(实则Discriminator的功能)。
- 此时,我们要Fix Discriminator的参数,来update Generator的参数。不固定Discriminator的参数会产生因为Discriminator的参数而导致分数升高的情况,而非Generator的参数导致的分数升高,从而导致训练Generator失败。
反复训练
一些GAN的生成效果
竟然还能产生异色瞳(⊙o⊙)?
(两行都是机器产生的 )
可以得到两张人脸融合的脸,或者输入左脸右脸,得到一张正脸(倒数第二行)