改进的基于多视图和张量低秩表达的子空间聚类算法

参考文献：面向高维数据的聚类算法设计和张量低秩表示研究 卓林琳

针对高维数据集中簇内分布不均匀的问题，本文提出的改进的基于多视图和张量低秩表达的子空间聚类算法（MVTLR-HCFS）是一种综合性的算法，旨在通过多视图信息的融合和张量低秩表示技术，提高聚类的准确性和鲁棒性。该算法主要包含以下几个关键步骤和涉及的公式：

1. 多视图子空间表达优化

首先，算法针对高维数据集中的多视图特征数据，利用低秩表达来处理噪声和数据损坏问题。具体优化问题可表示为：
$$\underset{Z(v),E(v)}{\min }\sum _{v=1}^V(\text{rank}(Z(v))+{\lambda }_{v}L(X(v),X(v)Z(v)))$$
$$\text{s.t. }X(v)=X(v)Z(v)+E(v),v=1,\dots ,V$$
其中，$Z(v)$ 表示第 $v$ 个视图的子空间表达矩阵，$\text{rank}(Z(v))$表示矩阵 $Z$的 秩，$E(v)$ 为误差矩阵，${\lambda }_v$ 是正则化参数，$L$ 为损失函数，旨在最小化重构误差。

2. 张量低秩表达转换

为充分利用多视图间的互补信息，算法将多视图的数据堆叠成张量，将优化问题转换为求解张量的低秩表达问题：
$$\underset{Z,E}{\min }\Vert E{\Vert }_{2,1}+\lambda \Vert Z{\Vert }_{\ast }$$
$\text{s.t. }X(v)=X(v)Z(v)+E(v),v=1,\dots ,V$
$Z=\Psi (Z(1),\dots ,Z(V))$
$E=[E(1);\dots ;E(V)]$
其中，$\Vert \cdot {\Vert }_{2,1}$ 是2,1范数，倾向于使误差张量的列向量稀疏，从而处理噪声点和数据损坏；$\Vert Z{\Vert }_{\ast }$ 是张量的核范数，反映了张量的低秩性；$\Psi$ 是一个操作，将多个视图的子空间表达矩阵融合成一个张量。

3. 核正则化

张量的低秩约束通过核正则化实现，其公式为：
$$\Vert \mathcal{Z}{\Vert }_{\ast }=\sum _{m=1}^M{\xi }_m\Vert \mathcal{Z}(m){\Vert }_{\ast }$$
其中，$\mathcal{Z}$ 是张量，$\mathcal{Z}(m)$ 表示在第 $m$ 个模态下的矩阵展开式，${\xi }_m$ 是系数常量，满足 ${\sum }_{m=1}^M{\xi }_m=1$，确保整体低秩性。

4. 优化求解

采用交替最小化（ALM）策略求解上述优化问题，具体地，对公式 $F(Z(v))$ 应用ALM，得到：
$F(Z(v))=\Vert X(v)-X(v)Z(v){\Vert }_F^2+{\lambda }_S\alpha (v)\text{tr}(Z(v)L(v)(Z(v){)}^T)+{\lambda }_V{\sum }_{w=1,w\ne v}^V\text{HSIC}(Z(v),Z(w))$
其中，$\text{HSIC}$ 是希尔伯特-施密特独立核检验（Hilbert-Schmidt Independence Criterion），用来衡量不同视图间的独立性，避免错误的互补信息。

5. 融合相似度矩阵与HCFS算法

通过上述步骤获得子空间表达后，利用得到的子空间信息构建相似度矩阵，并结合HCFS算法处理簇内分布不均匀问题，具体实施步骤包括子簇的形成和合并，以及利用能同时度量相邻子簇间连通性和相似性的方法，降低参数设置难度，最终实现对高维数据集簇内不均匀分布的有效聚类。

综上所述，该算法通过结合多视图信息的张量低秩表示和层次化策略的密度峰值聚类，有效地处理了高维数据中簇内分布不均匀的问题，提高了聚类的准确性和鲁棒性。