聚类,是把相似数据归到一起。聚类与分类被最大不同在于,分类的目标事先已知,而聚类的目标事先未知。
K均值聚类算法:
1、适用数据类型:数值型数据。需要数值型数据来进行距离计算,也可以将标称型数据映射为二值型数据再用于距离计算。
2、优点:容易实现
缺点:可能收敛到局部最小值,在大规模数据集上收敛较慢
工作流程为:首先,随机确定K个初始点作为质心。然后将数据集中的每个点分配到一个簇中,具体来讲,为每个点找距其最近的质心,并将其分配给该质心所对应的簇。这一步完成之后,每个簇的质心更新为该簇所有点的平均值。
伪代码如下:
创建K个点作为起始质心(经常是随机选择)
当任意一个点的簇分配结果发生改变时
对数据集中的每个数据点
对每个质心
计算质心与数据点之间的距离
将数据点分配到距其最近的簇
对每一个簇,计算簇中所有点的均值并将均值作为质心
import numpy
import math
#k-均值聚类支持函数
#loadDataSet()和上一章完全相同,它将文本文件导入到一个列表。
#下一个函数distEclud()计算两个两个向量的欧式距离。
#randCent(),该函数为给定数据集构建一个包含K个随机质心的集合。随机质心必须要在整个数据集的边界之内,这可以通过找过找到数据集每一维的最小和最大值来完成。
#然后生成0到1.0之间的随机数并通过取值范围和最小值。
def l