论文笔记-对比聚类Contrastive Clustering

对比聚类CC AAAI 2021

Abstract：

在这篇文章中提出了一种单阶段在线聚类方法——对比聚类，该方法采用实例级和聚类级的对比学习。具体地说，对于给定的数据集，通过数据增强技术构造正负实例对，并将这些实例对投影到特征空间中。在实例级和聚类级对比学习中，分别在行空间和列空间中进行，通过最大化正对的相似性和最小化负对的相似性来实现。特征矩阵的行可以被视为实例的软标签，相应地，列可以进一步视为聚类表示。通过同时优化实例级和聚类级的对比损失，模型能够以端到端的方式共同学习表示和聚类分配。

Motivation:

Problems:

DeepClustering方法通过迭代地使用k-means算法对特征进行分组，并利用随后的分配结果来更新深度网络，这种交替学习的方法会受到在表示学习和聚类阶段之间交替过程中累积的错误的影响，从而导致聚类性能不理想。此外，前述方法只能处理离线任务，即聚类是基于整个数据集的，这限制了它们在大规模在线学习场景中的应用。

Framework:

Algorithm:

Experiment:

Datasets:

Results:

Conclusion：

根据观察到的特征矩阵的行和列分别可以表示实例和聚类的表征，我们提出了对比聚类（Contrastive Clustering, CC）方法，该方法在一个统一的框架下同时进行实例级和聚类级的对比学习。所提出的CC方法在聚类任务中展示了其良好的性能。在未来，我们计划将其扩展到其他任务和应用中，例如半监督学习和迁移学习。