聚类模型K均值

聚类模型K均值介绍

#7.1.1 引入依赖

import numpy as np
import matplotlib.pyplot as plt

#从sklearn直接生成聚类数据
import sklearn.datasets.samples_generator import make_blobs

#7.1.2 数据加载

x,y = make_blobs(n_samples=100,centers=6, random_state=1234,cluster_std=0.6)
plt.figure(figsize=(6,6))
plt.scatter(x[:,0],x[:,1],c=y)
plt.show()

#7.1.3 算法实现

#引入scipy中的距离函数，默认欧式距离
from scipy.spatial.distance import cdist

class K_Means(object):
		#初始化，参数 n_clusters(K)、迭代次数max_iter、初始质心 centroids
		def __init__(self,n_clusters=6,maxiter=300,centroids=[]):
				self.n_clusters=n_clusters
				self.max_iter= max_iter
			  self.centroids=np.array(centroids, dtype=np.float)
		
		#训练模型的方法，K-means聚类过程
		def fit(self,data):
				#假如没有指定的质心，就随机选取data中的点作为初始质心
				if(self.centroids.shape == (0,)):
						self.controids=data[np.random.randint(0,data.shape[0],self.n_clusters) ,:]
				
				#开始迭代
				for i in range(self.max_iter):
						#1.计算距离矩阵，得到的是100*6的矩阵
						distances=cdist(data,self.centroids)

						#2. 对距离按由近到远排序，选取最近的质心的类别，作为当前点的分类
						c_ind=np.argmin(distances,axis=1)

						#3。对每一类数据进行均值计算，更新质点坐标
						for i in range(self.n_clusters):
								if i in c_ind:
										#选出所有类别是i的点，取data里面坐标的均值，更新第i个质心
										self.centroids[i]=np.mean(data[c_ind==i],axis=0)

		#实现预测方法
		def predict(self,samples):
				#跟上面的一样，先计算距离矩阵，然后选择距离最近的那个质心的类别
				distances=cdist(samples,self.centroids)
				c_ind=np.argmin(distance,axis=1)

				return c_ind