K-means算法属于EM(expectation-maximization)期望最大化算法的一种,简单来说,它包含两个步骤:
1.随机猜测一些中心点
2.重复至收敛
a.期望步骤(E-step):将点分配至最近的簇中心点
b.最大化步骤(M-step):将簇中心点更新为簇中所有点的平均值
期望步骤不断更新每个点属于哪个簇,最大化步骤不断更新簇中心。
有几个需要注意的问题:
1.可能不会达到全局最优结果
最后簇的划分和中心点的初始值有很大关系,可以用不同的初试值尝试执行很多遍,scikit-learn中通过n_init参数设置执行次数
2.簇中心需要事先设定
k-means无法从数据中自动学习簇的数量,我们随机生成一个有4个簇的点,然后用k-means学习时,指定6个簇看看会发生什么
import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
import seaborn as sns
from sklearn.datasets.samples_generator import make_blobs
sns.set()
X,y = make_blobs(n_samples=400,centers=4,cluster_std=0.5