聚类算法的评价指标

聚类算法的评价指标

聚类是什么？

通俗来讲，就是把凌乱的样本按照其相似度，进行划分的过程。

举个例子，将人按性格划分，将用户按群体划分。

1. 聚类与分类的区别：聚类是一种无监督学习，所用样本为无标记样本，即无法通过算法输出与实际结果的比较进行评价

2. 数学定义：

   • 样本集： X = { x ( 1 ) , . . . , x ( N ) ) } X=\{x^{(1)},...,x^{(N))}\} X={x(1),...,x(N))} ，含 N 个无标记样本
   • $x^{(n)}$：D维特征向量，$[x_1^{(n)},...,x_D^{(n))}{]}^T$
   • 不相交簇： { C l ∣ l = 1 , . . . , k } \{C_l|l=1,...,k\} {Cl​∣l=1,...,k} ，其中 $C_{l^{\prime }}{\bigcap }_{l^{\prime }\ne l}{C}_l=\varnothing$
   • 样本集 X 的划分：寻找若干 X 子集 $C_l$ ，使 $X={\bigcup }_{l=1}^k{C}_l$
   • 聚类：把样本集划分为不相交簇的过程，此时的不相交簇，被称为 “样本簇”
   • 簇标记： λ n ∈ { 1 , . . . , k } \lambda_n\in\{1,...,k\} λn​∈{1,...,k} ，用于表示样本 $x_{(n)}$ 的簇标记（cluster label）
   • 簇标记向量：$\vec{\lambda }=[{\lambda }_1,...{\lambda }_N]$

3. 聚类算法的性能度量：

   掌握算法的性能度量，我们才能评估聚类结果的好坏；设定合适的性能度量作为我们的优化目标，用于判定是否已经达到要求，以期达到“簇内相似度高”，“簇间相似度低”的聚类效果。

   方案一 具有参考模型，可将聚类结果与参考模型比较

   聚类算法簇划分： C = { C 1 , . . . , C K } C=\{C_1,...,C_K\} C={C1​,...,CK​} ，标记向量 $\vec{\lambda }$

   参考模型簇划分： C ∗ = { C 1 ∗ , . . . , C K ∗ } C^*=\{C_1^*,...,C_K^*\} C∗={C1∗​,...,CK∗​} ，标记向量 ${\vec{\lambda }}^{\ast }$

   定义：

   $a=|SS|,SS=\{(x^{(i)},x^{(j)})|{\lambda }_i={\lambda }_j,{\lambda }_i^{\ast }={\lambda }_j^{\ast },i<j\}$

   $b=|SD|,SD=\{(x^{(i)},x^{(j)})|{\lambda }_i={\lambda }_j,{\lambda }_i^{\ast }\ne {\lambda }_j^{\ast },i<j\}$

   $c=|DS|,DS=\{(x^{(i)},x^{(j)})|{\lambda }_i\ne {\lambda }_j,{\lambda }_i^{\ast }={\lambda }_j^{\ast },i<j\}$

   $d=|DD|,DD=\{(x^{(i)},x^{(j)})|{\lambda }_i\ne {\lambda }_j,{\lambda }_i^{\ast }\ne {\lambda }_j^{\ast },i<j\}$

   由排列组合知识可得：$a+b+c+d=C_N^2=N(N-1)/2$

   Jaccard 系数：$JC=\frac{a}{a+b+c}$

   FM 指数：$FMI=\sqrt{\frac{a}{a+b}\cdot \frac{a}{a+c}}$

   Rand 指数：$RI=\frac{2(a+d)}{N(N-1)}$

   以上性能度量结果均在 [0,1] 内，且越大越好

   方案二 无参考模型，依据距离来衡量聚类性能

   定义：

   $avg(C)=\frac{2}{|C|(|C|-1)}{\sum }_{1\le i<j\le |C|}dist(x^{(i)},x^{(j)})$

   $diam(C)=ma{x}_{1\le i<j\le |C|}dist(x^{(i)},x^{(j)})$

   $d_{min}(C_i,C_j)=mi{n}_{x^{(i)}\in C_i,x^{(j)}\in C_j}dist(x^{(i)},x^{(j)})$

   $d_{cen}(C_i,C_j)=dist({\bar{x}}^{(i)},{\bar{x}}^{(j)})$

   符号说明：

   dist()，表示两样本间的距离

   avg(C)，簇 C 内样本间的平均距离

   diam(C)，簇 C 内样本间的最远距离

   $d_{min}$，$C_i,C_j$ 最近样本间的距离

   $d_{cen}$，$C_i,C_j$ 中心点间的距离

   |C|，C 中元素个数

   DB 指数：$DBI=\frac{1}{k}{\sum }_{i=1}^{k}ma{x}_{j\ne i}(\frac{avg(C_i{)}_{+}avg(C_j)}{den({\bar{x}}^{(i)},x^{(j)})})$

   Dunn 指数： D I = m i n 1 ≤ i ≤ k { m i n j ≠ i ( d m i n ( C i , C j ) m a x 1 ≤ l ≤ k d i a m ( C l ) ) } DI=min_{1\leq i\leq k}\{min_{j\neq i}(\frac{d_{min}(C_i,C_j)}{max_{1\leq l\leq k}diam(C_l)})\} DI=min1≤i≤k​{minj=i​(max1≤l≤k​diam(Cl​)dmin​(Ci​,Cj​)​)}

   DBI 越小越好，DI 越大越好。

4. 聚类算法中的距离计算

   距离的性质：

   • 非负性

   • 同一性，距离为0，样本相同

   • 对称性，$dist(x^{(i)},x^{(j)})=dist(x^{(j)},x^{(i)})$

   • 直递性，$dist(x^{(i)},x^{(j)})=dist(x^{(i)},x^{(k)})+dist(x^{(k)},x^{(j)})$

   经典距离的定义：

   • 闵可夫斯基距离：$dis{t}_{mk}(x^{(i)},x^{(j)})=({\sum }_{d=1}^D|x_d^{(i)}-x_d^{(j)}|{)}^{1/p}$

   • 曼哈顿距离：令上式 p=1

   • 加权距离：由于样本空间中不同属性的重要性不同，一般会使用加权距离，如加权闵可夫斯基距离，如下

     $dis{t}_{wmk}(x^{(i)},x^{(j)})=(w_1|x_d^{(i)}-x_d^{(j)}{|}^p+...+w_D|x_d^{(i)}-x_d^{(j)}{|}^p{)}^{1/p}$ 其中 ${\sum }_{d=1}^D{w}_d=1$

   距离是相似度的度量，一般距离越小，相似度越高。

   在用于度量相似度时，距离定义的直递性往往不重要。

   数据样本复杂多变，往往需要根据数据样本的情况重新选择合适的距离公式，可通过距离学习来实现。