数据挖掘课程实验 4：k-Means 算法

一、实验目的及要求：

(1)掌握 k-Means 算法模型的实现过程及基本方法。
(2)掌握 k-Means 算法的实现。

二、实验内容：

(1)选择合理的数据集。
(2)数据预处理。
(3) k-Means 算法模型设计。

三、设备要求

(1) PC 一台。
(2) Python 或 C++或 JAVA 编程软件。

四、算法描述

1、K-Means算法原理
K-Means算法思想：对给定的样本集，事先确定聚类簇数K，让簇内的样本尽可能紧密分布在一起，使簇间的距离尽可能大。该算法试图使集群数据分为n组独立数据样本，使n组集群间的方差相等，数学描述为最小化惯性或集群内的平方和。K-Means作为无监督的聚类算法，实现较简单，聚类效果好，因此被广泛使用。
2、K-Means步骤及流程
2.1、算法流程
输入：样本集D，簇的数目k，最大迭代次数N；
输出：簇划分（k个簇，使平方误差最小）；
算法步骤：
（1）为每个聚类选择一个初始聚类中心；
（2）将样本集按照最小距离原则分配到最邻近聚类；
（3）使用每个聚类的样本均值更新聚类中心；
（4）重复步骤（2）、（3），直到聚类中心不再发生变化；
（5）输出最终的聚类中心和k个簇划分；
2.2、流程框图

2.3、算法过程

五、实验结果分析

1、实验设置
利用Jupyter Notebook编写python语言进行k-Means算法分析。
2、实验数据
采用西瓜数据集4.0：

图1、实验部分数据
3、数据处理
将文本文件中的西瓜数据集4.0的数据读取进来。

图2、读取数据
4、实验结果与分析
（1）、在这里我们令k=3，迭代次数依次为100，500，1000次，然后根据图像来观察聚类效果，如图3、4、5所示：
图中相同颜色的点表示划分为同一个簇，红色的“+”号代表最终的均值向量，标题上标注了迭代的次数。

图3、迭代100次

图4、迭代500次

图5、迭代1000次
（2）、实验结果分析
从上图中可以看出，数据集被分为了三个簇，图中的加号为最终的聚类中心即质心。当选择K值为3后，更改迭代次数对聚类结果的影响不是很明显，可见k的取值十分关键，对不同数据集，k选择没有参考性，需要大量实验。

七、实验总结

通过本次数据挖掘的K-means聚类算法实验，了解了k-means算法的实现过程及基本方法。
k-means算法的优点为原理易懂、易于实现，当簇间的区别较明显时，聚类效果较好。缺点为当样本集规模大时，收敛速度会变慢；对孤立点数据敏感，少量噪声就会对平均值造成较大影响；k的取值十分关键，对不同数据集，k选择没有参考性，需要大量实验。