论文:Least Squares Generative Adversarial Networks
LSGAN将原始GAN的损失函数由对数损失函数变成了最小二乘损失函数:
对比一下原始GAN损失函数:
阅读论文的时候,一看到这个损失函数。我就想这么简单,谁不会啊!!确实很简单,不过论文还是给了充足的理论证明的。而且损失函数里面的a,b,c是有约束的,不能随便搞。
原始GAN证明损失函数的有效性是通过KL对比散度理论证明的。这篇文章也证明了他们的损失函数是有效的。我们都知道KL对比散度是衡量两个分布之间的差异性。不过KL对比散度的函数是tlog(t),而不是最小二乘函数。其实对比散度有很多种我们统称他们为:f-对比散度(wiki)。与最小二乘函数对应的对比散度是皮尔森卡方对比散度(Pearson 2 X 2 -divergence)。其函数是:
(