聚类是一种无监督的机器学习算法。在聚类算法中,输入的数据通常没有预先定义好类别(无标签),需要根据一定的规则计算每个之间的相似度,将相似度高的对象归入到同一个簇(cluster)中,相似度低的对象归入到不同簇中,这样组成的一个个的簇就是数据最可能的分类标准。因此聚类算法一般应用于无标签的数据分类中。
Kmeans算法是一种最基本的聚类算法,是一种自动发现给定数据集的k个簇的算法。k是事先给定的,即想要聚合成的簇个数,每一个簇通过其质心(centroid),即簇中所有点的中心来描述。
Kmeans算法的流程:
1. 随机确定k个初始点作为质心。
2. 计算每个点到k个质心的距离,并将其分配给距离最近的质心所对应的簇。
3. 每个簇重新计算质心。
4. 重复2/3步骤直至质心不在变化为止。
在R语言中,利用Kmeans函数能够实现该算法,这里不再赘述,本文的主要目的是通过自己编写代码来完成Kmeans算法的逻辑过程。参考了《机器学习实战》一书中的python代码。具体代码如下:
首先定义一个距离的计算公式,用于计算各样本点的距离。这里选择了欧式距离。
##计算欧式距离
eucDistance <- function(data1,data2){
dis <- sqrt(sum((data1-data2)^2))
return(dis)
}
然后定义一个初始化质心的方法。初始的质心随机地从样本点中选取。
##初始化质心
initCentroids <- function(dataS