深度学习【44】LSGAN

论文:Least Squares Generative Adversarial Networks

LSGAN将原始GAN的损失函数由对数损失函数变成了最小二乘损失函数：

对比一下原始GAN损失函数：

阅读论文的时候，一看到这个损失函数。我就想这么简单，谁不会啊！！确实很简单，不过论文还是给了充足的理论证明的。而且损失函数里面的a，b，c是有约束的，不能随便搞。

原始GAN证明损失函数的有效性是通过KL对比散度理论证明的。这篇文章也证明了他们的损失函数是有效的。我们都知道KL对比散度是衡量两个分布之间的差异性。不过KL对比散度的函数是tlog(t)，而不是最小二乘函数。其实对比散度有很多种我们统称他们为：f-对比散度（wiki）。与最小二乘函数对应的对比散度是皮尔森卡方对比散度（Pearson $\mathcal X^2$-divergence）。其函数是：

(