机器学习（九）——聚类（分类+原理＋计算示例）

1、聚类的定义

\qquad 聚类：是机器学习中的无监督学习，目标是通过对无标记训练样本的学习来解释数据的内在性质以及规律，为进一步的数据分析提供基础。
\qquad 聚类试图将数据集中的样本划分为若干个通常是不相交的子集，每个子集称为一个“簇”

2、常见聚类算法

3、原型聚类

\qquad 原型聚类亦称为“基于原型的聚类”（prototype-based clustering），这一类算法假设聚类结构能通过一组原型刻画，在现实聚类中很常用。
\qquad 其统一的步骤为：

算法先对原型进行初始化，然后对原型进行迭代更新求解。

3.1 $k$均值聚类（$k-means$）算法

\qquad 给定样本集$D=(x_1,x_2,.....x_m)$，共m个样本集，“$k$均值”算法针对聚类所得簇划分$C=(C_1,C_2,......C_k)$，即需要将样本集中的所有样本根据规则，将其分别划分至合适的簇中，最小化平方误差：

\qquad 最小化平方误差，找到它的最优解需要考察样本集$D$中的所有可能的簇划分，这是一个NP难问题。因此，$k$均值算法采用了贪心策略，通过迭代优化来近似求解上式，算法的具体流程如下：

1.从样本集$D$中随机选择 k k