聚类-理论补充2

最新推荐文章于 2024-02-27 08:13:16 发布

PURE-li

最新推荐文章于 2024-02-27 08:13:16 发布

阅读量594

点赞数

文章标签：聚类算法机器学习

本文链接：https://blog.csdn.net/lichengxiang000/article/details/129115140

版权

文章介绍了拉普拉斯矩阵的不同形式，包括未正则、随机游走和对称拉普拉斯矩阵，并详细阐述了它们在谱聚类算法中的应用，用于数据点的聚类。通过计算特征向量并使用k-means算法进行聚类。此外，还提及了随机游走与拉普拉斯矩阵的关系以及标签传递算法在半监督学习中的作用。

摘要由CSDN通过智能技术生成

一。拉普拉斯矩阵的定义

计算点之间的邻接相似度矩阵W

若两个点的相似度值越大，表示这两个点越相似；
同时，定义wij=0表示vi,vj两个点没有任何相似性(无穷远)

W的第i行元素的和为vi的度。形成顶点度对角阵D

dii表示第i个点的度
除主对角线元素，D其他位臵为0

未正则的拉普拉斯矩阵：L=D-W

正则拉普拉斯矩阵

二。谱聚类算法：未正则拉普拉斯矩阵

输入：n个点{pi}，簇的数目k

        计算n×n的相似度矩阵W和度矩阵D；
        计算拉普拉斯矩阵L=D-W；
        计算L的前k个特征向量u1,u2,...,uk；
        将k个列向量u1,u2,...,uk组成矩阵U，U∈Rn×k；
        对于i=1,2,...,n,令yi∈Rk是U的第i行的向量；
        使用k-means算法将点(yi)i=1,2,...,n聚类成簇C1,C2,...Ck；
        输出簇A1,A2,...Ak，其中，Ai={j|yj∈Ci}

三。谱聚类算法：随机游走拉普拉斯矩阵

输入：n个点{pi}，簇的数目k

        计算n×n的相似度矩阵W和度矩阵D；
        计算正则拉普拉斯矩阵Lrw=D-1(D-W)；
        计算Lrw的前k个特征向量u1,u2,...,uk；
        将k个列向量u1,u2,...,uk组成矩阵U，U∈ Rn×k ；
        对于i=1,2,...,n,令yi∈Rk是U的第i行的向量；
        使用k-means算法将点(yi)i=1,2,...,n聚类成簇C1,C2,...Ck ；
        输出簇A1,A2,...Ak，其中，Ai={j|yj∈Ci}

四。谱聚类算法：对称拉普拉斯矩阵

输入：n个点{pi}，簇的数目k
        计算n×n的相似度矩阵W和度矩阵D；
        计算正则拉普拉斯矩阵Lsym=D-1/2(D-W) D-1/2；
        计算Lsym的前k个特征向量u1,u2,...,uk；
        将k个列向量u1,u2,...,uk组成矩阵U，U∈Rn×k；
        对于i=1,2,...,n,令yi∈Rk是U的第i行的向量；
        对于i=1,2,...,n,将yi∈Rk依次单位化，使得|yi|=1；
        使用k-means算法将点(yi)i=1,2,...,n聚类成簇C1,C2,...Ck；
        输出簇A1,A2,...Ak，其中，Ai={j|yj∈Ci}