#K-means聚类
from numpy import *
importmatplotlib.pyplot as plt
plt.ion()#开启交互模式,实时绘制
plt.subplots()
plt.xlim(-6, 6)
plt.ylim(-6, 6)#plt.pause(5)
defloadDataSet(fileName):
dataMat=[]
fr=open(fileName)for line infr.readlines():
curLine= line.strip().split('\t')
fltLine=list(map(float,curLine))
dataMat.append(fltLine)returndataMatdefdistEclud(vecA, vecB):#print("vecA:",vecA,"vecB:",vecB)
return sqrt(sum(power(vecA-vecB, 2))) #欧式距离
#给定数据集构建一个包含k个随机质心的集合#该函数为给定数据集构建一个包含k个随机质心的集合#集合中的值位于min合max之间
defrandCent(dataSet, k):
n= shape(dataSet)[1]
centroids=mat(zeros((k,n)))for j inrange(n):
minJ=min(dataSet[:,j])
rangeJ= float(max(dataSet[:,j]) -minJ)
centroids[:,j]= minJ + rangeJ*random.rand(k,1)returncentroids'''k-均值聚类算法:
该算法会创建k个质心,然后将每个点分配到最近的质心。这个过程重复数次,直到数据点的簇分配结果不再改变为止。
这个接口的缺点是:质心是随机初始化的,虽然最后会通过划分后的点加均值函数重新计算,但质心没有真正的进行最优化收敛
k均值算法收敛(kMeans函数)到了局部最小值,而非全局最小值
一种用于度量聚类效果的指标是SSE(Sum of Squared Error,误差平方和),SSE值越小表示数据点越接近于它们的质心,聚类
效果也就越好。因为对误差取了平方,因此更加重视那些远离中心的点,一种肯定可以降低SSE值的方法是怎加簇的个数,
但这违背了聚类的目标。聚类的目标是在保持簇数目不变的情况下提高簇的质量。'''
def kMeans(dataSet, k, distMeans=distEclud, createCent=randCent):
m=shape(dataSet)[0]
clusterAssment= mat(zeros((m, 2))) #记录每个样本点到质心的最小距离,及最小距离质心的索引
centroids =createCent(dataSet, k)
centroids_mean_before=centroids
plt_scatter(dataSet,centroids,clusterAssment)
clusterChanged=TruewhileclusterChanged:
clusterChanged=Falsefor i in range(m): #样本数据按行遍历
minDist = inf; minIndex = -1 #inf 表示正无穷
for j in range(k): #遍历质心,寻找最近质心
distJI = distMeans(centroids[j,:], dataSet[i,:]) #计算i点到j质心的距离
if distJI
minDist= distJI; minIndex=j #计算出每个样本数据最近的质心点与距离
if clusterAssment[i,0] != minIndex: clusterChanged =True
clusterAssment[i,:]= minIndex,minDist**2plt_scatter(dataSet,centroids_mean_before,clusterAssment)for cent in range(k): #遍历所有的质心并更新它们的取值
ptsInClust = dataSet[nonzero(clusterAssment[:,0].A ==cent)[0]]
centroids[cent,:]= mean(ptsInClust, axis=0)
centroids_mean_before=centroids
plt_scatter(dataSet,centroids,clusterAssment)returncentroids, clusterAssment#二分K-均值算法
'''为了克服k-均值算法收敛于局部最小值的问题,有人提出了另一个称为二分K-均值的算法。
二分k-均值:首先将所有点作为一个簇,然后将该簇一分为二。之后选择其中一个簇继续进行划分,
选择哪个簇继续划分取决于对其划分是否可以最大程度降低SSE的值。上述基于SSE的划分过程不断重复,
直到得到用户指定的簇数目为止。'''
def biKmeans(dataSet, k, distMeas=distEclud):
m=shape(dataSet)[0]
clusterAssment= mat(zeros((m,2))) #创建一个m*2的零矩阵
#print('clusterAssment:',clusterAssment)
centroid0 = mean(dataSet, axis=0).tolist()[0] #tolist() 把mat转为list
centList =[centroid0]
plt_scatter(dataSet, mat(centList), clusterAssment)#print('centList:', centList)
for j inrange(m):
clusterAssment[j,1] = distMeas(mat(centroid0), dataSet[j,:])**2 #记录每个点到质心的距离的平方
#print('clusterAssment:',clusterAssment)
while (len(centList)
lowestSSE= inf #正无穷
for i inrange(len(centList)):#以clusterAssment中第一列索引为i的行为索引,找到这些索引对应dataSet的的值返回。通俗讲 就是找出第i个质心关联的点
ptsInCurrCluster = dataSet[nonzero(clusterAssment[:,0].A==i)[0],:]
centroidMat,splitClustAss= kMeans(ptsInCurrCluster, 2, distMeas)
sseSplit= sum(splitClustAss[:,1])
sseNotSplit= sum(clusterAssment[nonzero(clusterAssment[:,0].A!=i)[0],1]) #求划分前其余(除i质心之外的)质心的sse值
print("sseSplit, and notSplit:",sseSplit, sseNotSplit)if (sseSplit + sseNotSplit)
bestCentToSplit=i
bestNewCents=centroidMat
bestClustAss=splitClustAss.copy()
lowestSSE= sseSplit + sseNotSplit #所有质心(被分割的质心加没被分割的质心)距离的平方
#更新bestClustAss簇的分配结果
bestClustAss[nonzero(bestClustAss[:,0].A == 1)[0],0] =len(centList)
bestClustAss[nonzero(bestClustAss[:,0].A== 0)[0],0] =bestCentToSplitprint("the bestCentToSplit is:",bestCentToSplit)print("the len of bestClustAss is:", len(bestClustAss))#将bestCentTosplit(最适合分割的质心点),替换为分割后的第0个质心点,分割后生成的另一个质心点通过 append方法添加
centList[bestCentToSplit] = bestNewCents[0,:].tolist()[0] #python3修改
centList.append(bestNewCents[1,:].tolist()[0])#将被分割的质心cluter索引和最小距离平方(minDist**2) 重新赋值
clusterAssment[nonzero(clusterAssment[:,0].A == bestCentToSplit)[0],:] =bestClustAss
plt_scatter(dataSet, mat(centList), clusterAssment)returnmat(centList),clusterAssment#绘图接口
defplt_scatter(datMat,datCent,cluster):
plt.clf()#清空画布
plt.xlim(-6, 6) #因为清空了画布,所以要重新设置坐标轴的范围
plt.ylim(-6, 6)
m=shape(datMat)[0]
n=shape(datCent)[0]
ms=['^','v','o','s','p','','1','2','3'] #数据点形状
cs=['r','g','b','y','m','c','k','r','g','b'] #数据点的颜色
for i inrange(m):
k=int(cluster[i,0])
plt.scatter(datMat[i,0],datMat[i,1],c=cs[k],marker=ms[k],alpha=0.5)for j inrange(n):
plt.scatter(datCent[j,0],datCent[j,1],c=cs[j],marker='x',alpha=1.0)
plt.pause(0.3)if __name__ == '__main__':
datMat= mat(loadDataSet('testSet.txt'))#myCentroids,clusterAssing = kMeans(datMat, 4)
#plt_scatter(datMat,myCentroids,clusterAssing)
centList,myNewAssments=biKmeans(datMat,4)
plt_scatter(datMat,centList,myNewAssments)
plt.ioff()
plt.show()