【论文阅读】让数据选择:可扩展多视图聚类的灵活多样锚图融合

Let the Data Choose: Flexible and Diverse Anchor Graph Fusion for Scalable Multi-View Clustering

原文链接
锚图学习被引入来降低计算复杂度。然而，现有的方法可以通过以下考虑进一步改进:(i)现有的基于锚点的方法在视图之间共享相同数量的锚点。这种策略违背了多视图数据分布的多样性和灵活性。(ii)在超参数范围内寻找最优锚数需要大量额外的调谐时间，这使得现有方法不切实际。(iii)如何灵活融合不同大小的多视图锚图，现有文献没有很好的探讨。

为了解决上述问题，本文提出了一种基于锚点的可伸缩多视图聚类的灵活多样锚点图融合方法(FDAGF)。我们建议优化一组预定义锚值的贡献权重，以避免在视图之间花费额外的时间，而不是手动调整具有大量超参数的最优锚值。最重要的是，提出了一种新的多尺度锚图混合融合策略，并给出了理论证明，该策略允许灵活多样的锚图融合。然后，提出了一种有效的线性优化算法来解决由此产生的问题。

Fig1：提出的FDAGF算法的框架。对于数据Xv的每个视图，提供了多种锚点选择(从A1 v到AR v)，从而产生多种灵活大小的锚点图{z1v，···，ZR v}。然后，自动学习每个视图中每个锚点选择对应的重要性，以合并融合锚点图。

相关工作

基于锚点的MVGC

在基于锚点的MVGC方法中，研究人员选择少量实例作为锚点，然后学习锚点与原始样本之间的锚点图。通过这样做，低效的n × n关联图被m × n锚点图所取代，其中m是锚点的数量。采样的成功表明，该采样策略有助于提高计算速度和存储速度，同时保持相同的聚类性能。

线性时间的大规模多视图子空间聚类(LMVSC)

首先，它们执行k-means来获得特定于视图的锚点并对其进行修复。锚点和每个视图上的所有样本之间的锚点图是独立构建的。最后，对拼接图进行奇异值分解(SVD)得到共同表示，再进行k-means得到最终聚类结果。
LMVSC的公式可以写成：

α是一个权衡参数。M指的是锚的数量，这是一个超参数，在视图之间保持不变。Zv可以通过求解二次规划(QP)问题得到。通过计算连接矩阵Z∈R mv×n的SVD，可以得到公共表示。

方法

生成多尺寸多视图锚图

与现有方法需要一系列超参数来找到与数据集相关的最优锚点数量相比，考虑为每个视图提供一组具有不同数量的锚点来近似最优。这样既避免了对最优数的超参数遍历，又保持了各视图的多样性。
具体来说，为每个视图提供R个锚点选择。因此锚矩阵可以表示为{{Ar v} v v=1} R R =1，其中Ar v∈R dv×mr, mr为第R个选择的锚数。相应的，得到的不同大小的合成灵活图可以写成{{Z r v} v v=1} rr =1，其中Z r v∈r mr×n。以第i视图为例，相应的锚矩阵和锚图可表示为{A1 i, A2 i，···，AR i}和{z1 i, Z2 i，···，ZR i}。因此，本文提出的灵活多样的多视图聚类锚图融合模型可表述为：

βRV表示第R个锚点选择对第V个视图的重要性

灵活的多视图锚图融合

传统的解决方法是在灵活多样的锚图Zrv上应用Eq.(3)根据锚图和谱聚类来恢复完整的n ×n亲和矩阵。结果 r v∈r n×n是一个双随机矩阵，其中每列和每行之和为1。

MVGC常用的解决方案是在S上进行谱聚类，然后将谱嵌入到k-means中得到聚类结果。
在本文中，提出了一种替代策略，根据命题1 ，计算Eq.(4)中连接锚图Z的k个右奇异向量作为共同嵌入，而不是构造Srv和S。

本文提出了一种灵活多样的锚图融合框架，以减少大规模多视图聚类的时间和空间消耗。我们考虑优化一组不同大小的锚图，而不是手动搜索锚数的最优参数。此外，该算法还自动调整了多视图中多选择的权重，提高了高质量锚图在混合融合中的重要性。在此基础上，提出了一种新的混合多尺度锚图融合范式，实现了不同尺度锚图的融合。此外，我们提出的方法在单视图聚类和多视图聚类之间建立了简单而有效的联系。大量的实验验证了该算法的有效性和高效性。