机器学习中K-Means聚类算法的原理及实现（Python）

背景知识

K-means聚类算法是一种流行于数据挖掘领域的无监督学习算法。K-means聚类算法的目的是：把已知的 n个点划分到k个聚类中，使得每个点都属于离它最近的点（聚类中心）对应的聚类。

在完成该算法的过程中，找到k个聚类中心是关键。

算法介绍

我们先介绍几个基本概念：
簇：数据点的集合，每一个簇中的对象是相似的。
质心：簇中所有点的中心（由计算所有点坐标的均值可得）。

比如在这幅图中，我们根据点的不同形状，将平面上的点用蓝线分为4个区域。每个区域可以看成是一个簇，并且易见每个区域内的对象（点）是相似的。

在K-means算法中，我们把属于同一个聚类中心的所有数据点所形成的集合，称为簇。

算法流程

伪代码：

随机确定k个点作为起始的聚类中心
while（任意一个点的簇分配结果发生变化）
     对数据集中的每一个点
            每一个聚类中心
                  计算点到聚类中心的距离
            将点分配给距离最短的聚类中心
    对每个簇，计算簇中的质心，并将该质心作为新的聚类中心

算法实现

from numpy import *
from math import *

加载文本数据的函数

def load(filename): #加载文本数据
    data=[]
    fr=open(filename)
    for line in fr.readlines():
        curline=line.strip().split('\t')        
        f=list(