scipy实现k-means算法

继上次了解并亲自编写了k-means算法后，总想找个简单的方法来实现它，毕竟这是个很基础很简单的聚类算法。

终于在学习了scipy的一部分知识后，能够实现利用scipy来实现k-means了，并且我将两个方法做了简单的比较，发现数据较小时差别并不大，而且scipy方法更稳定一点。下面实现方法和代码：

SciPy库依赖于NumPy，它提供了便捷且快速的N维数组操作。并且SciPy提供了覆盖包含了不同不同科学计算的子包，所以用起来很是舒服。也是数据分析的一大利器。

前面有一篇文章说的很清楚，这里也在简单提一下，k-means的原理：

1：根据K个中心将数据集按到中心值距离分簇

2：将已分的数据集，根据平均向量再确定中心值

3：重复1、2步骤，直至中心值不再移动（每次的差值与上次相同）

from scipy.cluster.vq import kmeans,vq,whiten
import numpy as np

首先导入scipy科学包（计算k-means的）

K = 3
spott = []
for i in range(500):
	spott.append((np.random.randint(50),np.random.randint(50)))

K值是我们自己定义的分多少簇，并且随机生成一组测试数据

spot = whiten(spott)

很关键的一个函数whiten，这里解释一下：

它是很重要的一次使用，也是为了测试结果更准确而做的操作，很有必要。使用whiten来美化数据（缩放数据集的每个特征维度），每个特征除以所有观测值的标准偏差以给出其单位异差。（我感觉就是降维，很重要）

center,_ = kmeans(spot,K)

kmeans函数，传入美化后的测试数据以及K值，返回K个均值以及一个数（没有具体研究这个数）

cluster,_ = vq(spot,center)

vq函数，传入测试数据和中心值。计算上面的概念步骤3，获得最终的分簇。（print(cluster)）

下面完整代码

到这里就完成了所有的聚类，是不是炒鸡好用。当然我们还可以数据可视化出来看看：

from scipy.cluster.vq import kmeans,vq,whiten
import numpy as np
import matplotlib.pyplot as plt

K = 3
spott = []
for i in range(500):
	spott.append((np.random.randint(50),np.random.randint(50)))

spot = whiten(spott)
# print(spot)
center,_ = kmeans(spot,K)
cluster,_ = vq(spot,center)
# print(cluster)                #到此完成了所有的聚类操作
##############################################################################################################
a = []				#下面都是数据可视化操作
b = []
c = []
for i in range(len(cluster)):
	if cluster[i] == 0:
		a.append(spott[i])
	elif cluster[i] == 1:
		b.append(spott[i])
	else:
		c.append(spott[i])

xx = []
for i in range(K):
    xx.append([])
#样本数据纵坐标列表
yy = []
for i in range(K):
    yy.append([])
m = []
m = [a,b,c]

for i in range(3):
        for j in range(len(m[i])):
            xx[i].append(m[i][j][0])
        for j in range(len(m[i])):
            yy[i].append(m[i][j][1])
        plt.scatter(xx[i],yy[i],label=i)
        plt.legend()
plt.show()

舒服！！！

当然完成了这些，是满足不了我的，我们把这个算法和我之前自己写的k-means算法做个对比（使用相同数据）

我自己的算法结果：

可以看出有的点是不准确的，两次不一致。这和我开始手动随机选择中心值有直接关系，这也是传统k-means的一个缺点。

尤其是在数据量少的情况下更明显。

SciPy的结果：

和第一个图是一致的，并且比较准确。所以可以看出，上面的算法虽然能得到准确值，但是会出现人为误差，SciPy简单，且误差率小。（我测试的数据比较小，有时间的可以测试大量的数据，来做对比）

结论：SciPy很好用，节约时间且准确度更高，可以主流使用。（但是最好还是把源码实现以下，以便更了解它实现的机制原理）