NIPS2018深度学习(15)|亮点: 新型GAN;新型CNN(论文及代码)

[1] On GANs and GMMs

Eitan Richardson, Yair Weiss

The Hebrew University of Jerusalem

https://papers.nips.cc/paper/7826-on-gans-and-gmms.pdf

在机器学习领域中，学者们一直在研究如何利用无监督方法来学习高维空间中的统计结构。近几年，学者们围绕GANs来解决这个问题，已经有学者利用GAN生成非常真实的高分辨率采样图像。

但是，GANs有一些问题，比如它会丢失一些模式，而不能对完整的分布进行建模，而且除了生成图像之外，GANs所学到的模型很难用于其它任务。

这篇文章主要将GANs与比较简单的统计模型，高斯混合模型，进行对比。首先给出一种简单方法，利用落入实现给定区间的样本占比来评估生成式模型。跟之前评估模型的自动化方法不同，本文的方法不依赖额外的神经网络，也不需要特别复杂的计算。

作者们在相同数据集上对比了GANs和高斯混合模型的效果。高斯混合模型能够对小块的图像进行比较好的建模，作者们尝试将高斯混合模型用于原始的整块的图像。该文作者发现高斯混合模型能够生成真实的样本，也可以学到整体的分布，而GANs就做不到。此外，高斯混合模型的推理比较高效，而且可以得到潜在统计结构的准确表示。

几种方法在CelebA上的效果对比如下

在MNIST和SVHN上的效果对比如下

代码地址

https://github.com/eitanrich/gans-n-gmms

---