文章信息
ICML16 提出DEC, 联合 学习 clustering 和embedding, 针对的是图片数据。 两者是 一个阶段。 从tsne出发,采用t分布,衡量样本和类别中心的距离。从而分配 软聚类标签。 采用KL散度 对两个分布损失进行优化。
目标分布p 是 q的二次,采用类别频率归一化后的结果 被成为 auxiliary target distribution。
优化过程:
--------- ——— — —— ------ ---- --------- - ----- ---------- ----------- ------------- --------- ------- ------- ------------ ------------- -------
将上面对于image方法 用到graph上, tricks :1 。 encoder 采用GAT, 2: 对于 attention,说采用高阶信息 ,实验中也只是 采用2阶。
decoder 采用内积,其余和上一篇一样
多视图聚类
tricks: 1. 采用shared encoder 对多个 视图进行 特征提取 ( 一方面 加速 另一方面 能够 交互不同的视图) 2. decoder是 多个decoder 来重建 多个邻接矩阵, decoder 不是简单的内积,而是 内积形式上加了一个 W参数矩阵。 3. 损失是 重构+ 自训练dec的方法 注意: 这个单独的encoder 选取的方法 :是 聚类后 通过聚类指标算出来,从多个encoders选了一个最好的
encoder:选取
decoder:
自训练+优化
和DEC类似