【GAN简介】——基于李宏毅2021春机器学习课程

GAN

简介

什么是Generator（生成器）

​ 输入X和一个Simple Distribution（简单分布，如正态分布）中的一个Z，得到一个Complex Distribution

​ 简单来说就是一个固定值加上一个分布中的随机值，输入到网络中，得到一个值，随着Z的不同，得到的Y也不同，最终形成一个复杂分布。

能输出Complex Distribution的Network，即Generator。（输出的是一个分布）

• Simple意思是我们知道这个分布的表达式（）

为什么要Generator，什么时候用到？

例如：

下图为进行糖豆人行为预测

以往的一对一输入输出会导致，同一批训练资料，会得到一个同时向左转和向右转的训练结果，因此我们需要使用Generator来解决这个问题。

通过Generator，加入一个Simple Distribution来生成一个包含向左转或向右转的Complex Distribution。

总结

​ 总的来说，就是当我们任务需要创造力，即想要找到一个Function能同一个输入得到不同的输出，而且这些输出都是对的

还有一些需要创造力的任务，（老师是个老二次元了（=。=））例如：

上述的答案就是一个Complex Distribution，答案都是对的且多样的。

知名的Generator Networ —— Generative Adversarial Network（GAN）

unconditional generation

未输入X的形况下的generation ——unconditional generation

从一个Normal Distribution(正态分布)中生成Z输入到Generator中，得到一个Complex Distribution

Generator完成：输入一个低维的向量，得到一个高维的向量

• 一张图片实际是由一个高维的向量组合而成，
• 例如：一张彩色图假设为64x64像素，则输出的向量为64x64x3（RGB）

Discriminator —— 判别器（架构也是Neural Network，根据数据集选择）

​ 符合输出1.0，不符合输出0.1，以此类推，用来判别 输出结果是否符合预期结果

Basic Idea of GAN

​ Generator想办法骗过Discriminator，Discriminator想办法不被Generator骗过——adversarial（对抗）

​ 如上图，Generator一代生成的是无效数据，Discriminator根据生成的数据集中是否有眼睛来判断是否为二次元图片，因此，Generator调整参数，变为Generator二代，生成出有眼睛的图片，Discriminator也调整参数，变成Discriminator二代，根据是否有嘴巴来判断是否为二次元图片，以此类推，一直迭代。

Algorithm——具体算法

​ Generator和Discriminator都是两个Neural Network。

训练Discriminator——固定Generator

Discriminator不被Generator骗过

1. 在一开始Generator的参数是随机初始化的，因此输入randomly sampled vector得到的都是一些杂讯，如上图的标识0处图像，且Generator的参数是Fix的（固定的）。
2. 根据自己的Database，sample出一些测试集，然后用测试集和Generator的输出结果来训练Discriminator，让Discriminator能分辨测试集和输出结果的差异，具体来说可能向上图分类1和0，让Discriminator做一个分类的问题——将1分成同一类，0分成另一类，或者回归的问题——看到测试集的图输出1，看到输出集的图输出0。然后迭代，Update Discriminator的参数。

训练Generator——固定Discriminator

Generator生成的图片要骗过Discriminator

1. 我们将一个vector输入Generator，然后生成的结果输出Discriminator，最后输出一个分数，我们期待最终分数越高越好
2. 我们可以将两个Neutral Network接起来，看成一个large network，前几层的输出一个结果，这个结果可以组合成一张图片（实则Generator的功能），然后将结果输入到后几层，得到一个分数（实则Discriminator的功能）。
3. 此时，我们要Fix Discriminator的参数，来update Generator的参数。不固定Discriminator的参数会产生因为Discriminator的参数而导致分数升高的情况，而非Generator的参数导致的分数升高，从而导致训练Generator失败。

反复训练

一些GAN的生成效果

竟然还能产生异色瞳(⊙o⊙)？

（两行都是机器产生的 ）

​ 可以得到两张人脸融合的脸，或者输入左脸右脸，得到一张正脸（倒数第二行）