GAN网络学习笔记系列2-Cluster GAN

1、文献创新及贡献：

提出一种新的基于聚类机制的CGAN，通过one-hot编码变量和连续潜变量的混合中采样潜变量，再将一个反向网络（将数据投射到潜空间）和一个聚类特定损失值与其进行结合，能实现再潜空间中聚类。GAN再潜变量中虽然保留了观测数据信息，但散点再平滑分散的情况下的散分布导致没有可以观察的集群，因此本文提出了一种算法用以解决上述问题。

文章贡献：

1、利用离散-连续潜变量的混合，以便再潜空间中创建一个非光滑几何

2、由于文章实验过程中面临着实验对象非凸性，因此提出一种适应离散-连续混合的反向传播算法，以及一个显式映射网络来获得给定数据的潜在变量。

3、将GAN与具有特定聚类损耗的网络进行联合，以便投影空间对反映变量的几何问题进行距离的测试。

2、文献设计思路及过程

聚类可以将同一图像下不同物品（信号）进行分类，如果聚类在降维的同时，真实数据也来自于低维流形则效果就会更优。GAN与VAE都是匹配真实数据分布，同时提供潜空间Z到输入空间X的映射。GAN网络在潜在空间中可以提供降维的功能，其中GAN网络中有一个优点是可以在潜空间中进行插值，由于在潜空间中进行聚类的划分，就是本文所需要关注的，那么CGAN能否在潜空间中进行良好的插值运算以及聚类呢？

3、如何在潜在空间上进行聚类

在使用GAN网络进行聚类时是将数据反向传播到潜在空间中，在潜在空间中进行聚类，通过图中可以看出噪声在潜在空间上进行均匀分布，正态分布，高斯最大混合引入时，显得十分的冗余。

针对以上问题如何解决呢？

CGAN从一个规则随机变量与one-hot编码向量级联而成的先验中进行采样。

 ek为R中的第K歌初等向量，K为数据中的族类，最后选，使one-hot为GAN提供足够的信号。使每个模态只从原始数据中的相应类生成样本，选取

 一般选小的，能保证Z空间中的簇的分离。

4、离散-连续混合反向算法

 原始对Z进行优化的方法是：

L是某个合适的损失函数，虽然方法有效，但是在潜在空间进行先验聚类达不到要求，即使反向创博无损，但也无法恢复准确的潜在向量。

优点 ： L是一个合适的损失函数，可以最小化损失量。在作为神经网络实现过程中优点可以在Z空间（潜在空间）获得不同方式的嵌入

缺点 ： 在潜在空间进行先验聚类达不到要求，即使能无损进行反向传播，但却无法准确的恢复潜在向量。但缺点是其非凸性。

解决以上问题有两种方法：

  1、使用不同的初始化参数继续多次重启以获得𝑍∗Z^∗

  2、在每次迭代步骤中对Z进行随机剪辑

但是以上两种方法均不能聚类，因为未解决从Z中分离流行中进行采样的根本问题。

作者提出来的改进为：

作者的采样来自于正态分布，利用正则化||𝑍|| 22，惩罚项只惩罚正态分量。进行K次重启，每次样本𝑍𝐶来自于Z_C 来自于不同的one-hot，并且仅对常规变量进行优化，保持𝑍𝐶Z_C的固定值不变。

算法如下图所示：

对于离散-连续混合中，需要在生成空间中以线性方式来生成高斯混合，及可以达到线性生成聚类的目的。 然而𝑍𝑛聚类Z_n 聚类不能在线性生成的空间中恢复高斯数据，但是存在线性G(∙∙)可以映射离散连续的高斯混合。

5、Cluster GAN 

 

CGAN结构图如图所示：

one-hot有强大的分类能力，在完全无监督下，one-hot编码从原始数据可以分类出特定类生成点。

实验结果如下图所示：

•如果在极大极小目标中有一个聚类特定损失项，则GAN在潜在空间中的聚类效果会更好，为了让CGAN能应用于更为复杂的数据集，可以加强CGAN的网络结构，可以使用强制精度恢复潜向量，因此引入新的参数量。 

正则化系数 ，相对大小可以灵活选择不同属性（类别），用以保存潜码的离散-连续的部分，H表示为交叉熵损失。

算法步骤如下图所示：

 

将CGAN与其他的算法进行比较：

可以看出来CGAN相对于其他的算法来说在各项指标上都是最高的。ACC:精度，NMI:标准互信息量，ARI:调整rand指数

 6、评估

为了证明CGAN与（条件GAN）有监督框架那样对真正标签是无意识的，作者比较了CGAN与其他基于GAN网络的聚类算法。

仅供个人学习参考，是为了方便个人整理笔记，如果有哪里写的不对的地方还请网友们多多指正

论文地址：[1809.03627] ClusterGAN : Latent Space Clustering in Generative Adversarial Networks (arxiv.org)