一、聚类算法思想
即物以类聚,将相似的物品聚为一类。
二、聚类算法
k-means、k-medoids、clarans、密度聚类、层次聚类等等
三、聚类算法详解
3.1 k-means
基本思想:将n个数据样本聚类,因为除了样本信息外,无法获知应该将数据样本聚类为几个簇。因此,假设将样本分为k个簇,而这也是k-means聚类算法的缺点。衡量聚类算法的评价指标:簇内样本相似度高、簇间样本相似度低。如果用聚类度量相似度,则可以理解为簇内样本距离小,簇间样本距离大。
工作过程:(1)从n个样本中任意选择k个样本作为初始簇中心,采用簇中心代表一个簇。
(2)根据样本集合中其他样本与簇中心样本的相似度,将样本聚类到与簇中心最相似的簇。
(3)重新计算簇中心,即每个簇中所有样本的均值。
(4)不断重复步骤(2)、(3),直至标准测度函数(如均方差)收敛。
(5)评价:簇内样本相似度,和簇间样本相似度。对于簇内样本相似度计算方法:如果采用距离度量,则可计算簇中心到簇内样本的距离的均值;也可以计算簇内样本间两两样本距离的均值;如果采用密度度量,则每个簇可抽象为一个以簇中心为圆心,以簇中心到与距离其最远的样本的距离为半径的圆。再以簇中心为圆心,从零逐渐增加半径的单位量,计算每个环形区域内数据点的个数除以圆环面积,计算的所有结果取平均值作为密度。
对于簇间样本相似度计算方法:计算簇中心距离。
算法缺点