GAN笔记

GAN网络论文带读：Generative Adversariay Nets 生成对抗网络

生成模型：G抓住数据的分布 ---》造假的人

判别模型：D 辨别是生成的还是本身的 ---》警察

“枯叶蝶理论”

最后希望是造假者很厉害警察无法辨别 gan需要的就是辨别起无能为力

框架：G和D都是MLP

判别器是一个二分类模型

G：x 游戏中的截图 ，z是随机噪音 将Z Pz(Z) = x(x是我们画面上看到的数据)

D：训练G 获得最小的 log（1 - D（G（z））），训练一个G 让辨别器犯错

判别器输入加数据时，输出越小越好

D是完美的情况下都是等于0的

目标函数里面是两个东西：D：使得数据分开，G：使得数据不分开

每次迭代，先更新辨别器，在更新生成器 k值就是一个超参数 在更新G的时候将 logD（G（x）） 最大化 G（）是一个可导可微的函数

当生成器固定住的情况下 最优解最优判别器：pg：是生成器的家图像服从的概率分布 pdata（x）原始数据的概率分布

KL散度：衡量俩个分布 之间的差异（KL不对称） JS散度衡量两个分布的平均值（对称）

gan使用了对称散度 gan使用的是无监督处理

pixtopix cyclegan —–》gan变体

“花书” —-《深度学习》 他们发起了 ICCR 顶会

计算问题就是海量问题转化成计算机能解决的问题

对抗样本的区别：不是对于模型的而是对于输入处理的 噪声 — 》生成器 —-〉假图 —》判别器 —〉输出值越大越好 生成器和判别器同时训练会产生模式崩溃：不管输入什么噪声都会生成一摸一样的图片 ，这种情况不能调参 间接训练方式直接阻隔了过拟合 输入噪声渐变，生成图像也是渐变

原文中：训练两次生成器 训练一次判别器