《generative adversarial network》
- 相关工作:
深度波尔茨曼机:需要大量的近似
生成随机网络:相比较生成随机网络,gan旨在消除里面用到的马尔可夫性
差分自编码器VAE:第二个识别网络需要approximate inference
Noise-contrastive estimation (NCE):训练一个生成器使得判别器能够判别真实数据和噪声。可以看作一种非正式的竞争机制。判别器是由噪声和真实图片的分布密度比例来判断,要求从两个分布密度函数做评估和backpogration
与prediction minimization的区别是:相比较其他两个网络结构来说,gan训练的标准是完全基于两个网络的对抗性。 - 数学表示
训练时训练K步D,优化一步G,使得D在 最优解附近,只要G变化很小。
训练G时,使得右式最大化:,伪代码可以写作:
这里的loss最大化或者最小化,是基于这些loss都没有加负号,实质表达的意思是还是一样的。当达到全局的鞍点时,
模拟数据的分布和真实数据分布时一致的