GANMM小结

GANMM小结

简介

GANMM (Generative Adversarial Network Mixture Model) 是利用 GAN 进行聚类的一个模型，在传统聚类中非常典型的一个方法是利用高斯混合模型去匹配各个分布，高斯混合模型顾名思义就是利用多个高斯分布分别去拟合不同的分类，即有几个高斯分布就有几个聚类。但是高斯混合模型的最大缺点是无法拟合非常复杂的数据，在现实生活中大多数的数据并不符合高斯分布。

GAN是当下无监督学习中非常热门的一个模型，其在捕捉复杂数据分布上展现了非常好的效果。
基于以上原因 GANMM 便产生了。

贡献

1. 设计出一个高效的聚类网络结构
2. 使用ϵ-Expectation-Maximization 算法防止 EM 在 GAN 中过早收敛的问题
3. 设计了一个防止聚类不平衡的算法

结构

如下图所示为GANMM的网络结构图：

ϵ-EM

在GAN中如果一开始模型训练的太好可能导致EM算法过早收敛，为了解决这个问题可以让模型不要拟合的太好，论文中的方法为在 e-step 过程中引入一些错误项。