AI（005） - 笔记 - 聚类性能评估（Clustering Evaluation）

聚类性能评估（Clustering Evaluation and Assessment）

这篇文章是对聚类性能评估的总结，对应：

• 第四周：（10）4.10 聚类算法评估
• 《机器学习》（西瓜书）：第9章 聚类 - 9.2 性能度量
• 维基百科（en）：
  
  • “Cluster analysis” 词条
  • “Rand index”词条
  • “Adjusted mutual information”词条
  • “Silhouette (clustering)”词条
• sklearn官方文档

---

---

1 聚类性能评估的一些说明

说到聚类性能比较好，就是说同一簇的样本尽可能的相似，不同簇的样本尽可能不同，即是说聚类结果“簇内相似度”（intra-cluster similarity）高，而“簇间相似度”（inter-cluster similarity）低。

聚类性能的评估（度量）分为两大类：

• 外部评估（external evaluation）：将结果与某个“参考模型”（reference model）进行比较；
• 内部评估（internal evaluation）：直接考虑聚类结果而不利用任何参考模型。

对有n个元素的数据集 $D = \{\bf x_1, x_2, \cdots, x_n\}$ ：

• 假定聚类结果： $X = \{X_1, X_2, \cdots, X_K\}$
• 假定参考结果： $Y = \{Y_1, Y_2, \cdots, Y_L\}$

那么将样本两两配对得：

• $a = |SS|, \quad where \quad SS = \{ ({\bf x_i, x_j}) \,|\, {\bf x_i, x_j} \in X_k ;\; {\bf x_i, x_j} \in Y_l \}$
• $b = |SD|, \quad where \quad SD = \{ ({\bf x_i, x_j}) \,|\, {\bf x_i, x_j} \in X_k ;\;{\bf x_i} \in Y_{l_1}, {\bf x_j} \in Y_{l_2} \}$
• $c = |DS|, \quad where \quad DS = \{ ({\bf x_i, x_j}) \,|\, {\bf x_i} \in X_{k_1}, {\bf x_j} \in X_{k_2} ;\; {\bf x_i, x_j} \in Y_l \}$
• $d = |DD|, \quad where \quad DD = \{ ({\bf x_i, x_j}) \,|\, {\bf x_i} \in X_{k_1}, {\bf x_j} \in X_{k_2} ;\; {\bf x_i} \in Y_{l_1}, {\bf x_j} \in Y_{l_2} \}$

其中：

• $i \neq j; \quad 1 \leq i, j \leq n$
• $k_1 \neq k_2; \quad 1 \leq k, k_1, k_2 \leq K$
• $l_1 \neq l_2; \quad 1 \leq l, l_1, l_2 \leq L$

那么所有配对的总数，即集合中可以组成样本对的对数为：

$$a + b + c + d = \begin{pmatrix} n \\ 2 \end{pmatrix} = \frac{n(n - 1)}{2}$$

---

2 常用外部评估（external evaluation）

2.1 Rand Index（RI） and Adjust Rand Index（ARI）

• Rand Index

  RI=a+d(n2)=2(a+d)n(n−1)