基于划分的KMeans 算法原理 (Partition-based methods)
目标:类内的点足够近,类间的点足够远
算法流程:
1.选择聚类的个数K
2.随机选定聚类中心
3.根据点到聚类中心距离(欧式距离)确定各个点所属类别
4.根据各个类别的数据更新聚类中心
5.重复以上步骤直到收敛(中心点不再变化)
优点:
1.算法快速、简单
2.对大数据集有较高的效率并且是可伸缩性的
3.时间复杂度近于线性,而且适合挖掘大规模数据集。K-Means聚类算法的时间复杂度是O(n×k×t)
,其中n代表数据集中对象的数量,t代表着算法迭代的次数,k代表着簇的数目
4.对噪声、离群值敏感,只用于numerical类型数据,不适用于categorical类型数据。
缺点:
1.在k-measn算法中K是事先给定的,但是K值的选定是非常难以估计的。
2.随机选择初始聚类中心,结果可能缺乏一致性
3.当数据量很大时,算法的开销是非常大的。
4.不能解决非凸数据
K-means++
引入k-means++算法,基本思想就是:初始的聚类中心之间的相互距离要尽可能的远。而且在计算过程中,通常采取的措施是进行不止一次的聚类,每次都初始化不同的中心,以inertial最小的聚类结果作为最终聚类结果。
kernel k-means
可以解决凸数据