Affinity Propagation: AP聚类算法

AP聚类算法,又称Affinity Propagation,是一种不需要预设聚类数目的方法,由Frey和Dueck在2007年提出。它利用数据点之间的相似度传递消息来形成聚类,其优点包括无需指定聚类数量,数据点自身作为聚类中心,对初始值不敏感,且不对称相似度矩阵也可用。算法涉及Exemplar、Responsibility和Availability等概念,通过迭代更新归属度和吸引度信息来确定聚类。尽管AP算法避免了指定聚类中心个数,但需要设置参考度,且在大数据量下运行时间较长。
摘要由CSDN通过智能技术生成
算法概述

原文:
[Frey B J, Dueck D. Clustering by passing messages between data points[J]. science, 2007, 315(5814): 972-976.](Frey B J, Dueck D. Clustering by passing messages between data points[J]. science, 2007, 315(5814)
AP聚类一般翻译为近邻传播聚类,07年被提出,其优点有:
1. 不需要制定最终聚类族的个数
2. 已有的数据点作为最终的聚类中心,而不是新生成一个族中心。
3. 模型对数据的初始值不敏感。
4. 对初始相似度矩阵数据的对称性没有要求。
5. 相比与k-centers聚类方法,其结果的平方差误差较小。

基本概念
* Exemplar范例:即聚类族中心点;
* s(i,j):数据点i与数据点j的相似度值,一般使用欧氏距离的的负值表示,即s(i,j)值越大表示点i与j的距离越近,AP算法中理解为数据点j作为数据点i的聚类中心的能力;
* 相似度矩阵:作为算法的初始化矩阵,n个点就有由n乘n个相似度值组成的矩阵;
* Preference参考度或称为偏好参数:是相似度矩阵中横轴纵轴索引相同的点,如s(i,i),若按欧氏距离计算其值应为0,但在AP聚类中其表示数据点i作为聚类中心的程度,因此不能为0。迭代开始前假设所有点成为聚类中心的能力相同,因此参考度一般设为相似度矩阵中所有值得最小值或者中位数,但是参考度越大则说明个数据点成为聚类中心的能力越强,则最终聚类中心的个数则越多;
* Responsibility,r(i,k):吸引度信息,表示数据点k适合作为数据点i的聚类中心的程度;公式如下:
吸引度

其中a(i,k’)表示除k外其他点对i点的归属度值,初始为0;s(i,k’)表示除k外其他点对i的吸引度,即i外其他点都在争夺i点的 所有权;r(i,k)表示数据点k成为数据点i的聚类中心的累积证明,r(i,k)值大于0,则表示数据点k成为聚类中心的能力强。说明:此时只考虑哪个点k成为点i的聚类中心的可能性最大,但是没考虑这个吸引度最大的k是否也经常成为其他点的聚类中心(即归属度),若点k只是点i的聚类中心,不是其他任何点的聚类中心,则会造成最终聚类中心个数大于实际的中心个数。
* Availability,a(i,k):归属度信息,表示数据点i选择数据点k作为其聚类中心的合适程度,公式如下:
归属度

  • 21
    点赞
  • 150
    收藏
    觉得还不错? 一键收藏
  • 6
    评论
AP(affinity propagation)聚类也被称为近邻传播聚类,它是一种半监督聚类算法。与传统的聚类方法不同,AP聚类不需要事先设定聚类簇的个数,而是通过分析数据点之间的相似性来自动划分数据集。 AP聚类的核心思想是任意两个数据点之间的相似性传播。相似性可以通过计算数据点之间的相似度来衡量,相似度可以是一种度量或者一个简单的距离函数。AP聚类算法中的相似度矩阵表示每对数据点之间的相似性。 AP聚类的过程如下:首先,初始化数据点的选择集合,将其作为当前候选出的聚类中心。然后,通过迭代更新两个矩阵:归属度矩阵和候选出矩阵。归属度矩阵表示每个数据点归属于每个聚类中心的程度,而候选出矩阵表示每个数据点是否被选择为聚类中心的候选。 在每次迭代中,首先更新归属度矩阵。对于每个数据点,计算其与其他数据点的相似性,选择与其相似度最高的数据点作为其聚类中心,同时更新其他数据点对该聚类中心的归属度。接下来,更新候选出矩阵。对于每个数据点,计算其与其他数据点的归属度之和,如果该和大于一个阈值,则将其设置为聚类中心的候选。 通过反复迭代更新归属度矩阵和候选出矩阵,直到算法收敛为止。最终,聚类中心将作为数据点的标签,每个数据点将被划分到与其最相似的聚类中心。 AP聚类的优点是不需要预先设定聚类簇的个数,可以自动发现数据集中的聚类结构。然而,由于其计算和存储相似性矩阵的复杂性,AP聚类对于大规模数据集的处理效率较低。同时,由于其依赖于阈值的选择,AP聚类的结果对于参数的选择较为敏感。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 6
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值