1️⃣什么是生成对抗网络
近年来,深度学习在很多领域的都取得了突破性进展,但大家似乎发现了这样的一个现实,即深度学习取得突破性进展的工作基本都与判别模型相关。
也就是说,生成模型并没有被好好地运用以释放其潜能。生成模型关注于分析和理解数据背后的生成过程,能够生成与训练数据类似的新样本。生成模型的训练和性能评估发展缓慢,生成高质量的样本仍然是一个挑战。
2014 年 Goodfellow 等人启发自博弈论中的二人零和博弈 ,开创性地提出了生成对抗网络 (GAN)
生成对抗网络包含一个生成模型和一个判别模型。其中,生成模型负责捕捉样本数据的分布,而判别模型则判别输入是真实数据还是生成的样本。这个模型的优化过程是一个 “博弈” 问题,训练时固定其中一方(判别网络或生成网络),更新另一个模型的参数,交替迭代,最终,生成模型能够估测出样本数据的分布。
举个例子: 假设我们想要生成逼真的猫的图像。我们首先准备一个猫的图像数据集作为真实图像样本。然后,生成器网络将通过随机噪声输入生成一张虚假的猫图像。判别器网络将接收真实猫图像和生成的猫图像,并尝试区分它们。随着训练的进行,生成器网络逐渐学会生成更逼真的猫图像,而判别器网络也变得更加准确。最终的目标是生成的图像质量足够好,以至于无法区分它们是真实的还是生成的。
2️⃣基本原理
在生成对抗网络中,对于判别模型,损失函数是容易定义的,因为输出的目标相对简单。 但对于生成模型,损失函数的定义就不是那么容易。 我们对于生成结果的期望,往往是一个暧昧不清,难以数学公理化定义