A Survey of Clustering with Deep Learning: From the Perspective of Network Architecture
- 论文链接
- 总结
- 前置知识
- 深度聚类类别
论文链接
总结
这篇博客是对该综述论文的总结,并按照文章顺序学习其所提到论文的记录。文章将deep clustering按deep-base的类型分为四种:AE-based, CDNN-based, VAE-based, andGAN-based 。我将按板块对它们进行学习,并在完成模块后将笔记和总结加入到该博客中。这篇博客将按板块逐步更新,在一个类型学习完后再进行下一板块的更新。
前置知识
该部分记录了我不知道或者不熟悉的一些前置知识。
A.深度聚类的神经网络架构
1. 全连接网络
全连接网络取向于将所有的点都归于一个簇里面,这样的话虽然聚类损失很小,但毫无意义。所以对于全连接层,一个好的初始化是至关重要的。
2. 卷积网络
虽然卷积网络是不需要进行初始化的,但往往一个好的初始化会显著提高聚类效果。
3. 深度信念网络
由多层玻尔兹曼机堆叠而成
B. 损失函数
分为两类:
- Principal Clustering Loss:同时优化簇中心和样本点的分配,所以训练完就可以直接获得聚类结果。
- Auxiliary Clustering Loss:将原数据映射到一个对聚类友好的向量空间上去。
深度聚类类别
损失函数通常由两部分组成:网络损失 L n L_n Ln和聚类损失 L c L_c L