聚类算法评价指标之DBI指数及Python实现

赵孝正

已于 2022-08-22 10:47:56 修改

阅读量7.1k

点赞数 6

分类专栏： # 聚类文章标签：聚类数据挖掘机器学习

于 2022-08-12 16:28:50 首次发布

本文链接：https://blog.csdn.net/weixin_46713695/article/details/126303649

版权

聚类专栏收录该内容

25 篇文章 9 订阅

订阅专栏

1.概念介绍

最近在做一个序列聚类的项目，评价聚类优劣的时候，用到了 DBI 指数，根据自己的理解，梳理了网上看到的资料，以求步骤清晰公式易懂，给大家带来方便。

戴维森堡丁指数（Davies-Bouldin index，DBI） ，又称为分类适确性指标，是由 大卫L·戴维斯 和 唐纳德·Bouldin 提出的一种评估聚类算法优劣的指标。

综合考虑了类内样本相似度以及类间样本差异度，其值越小表征聚类有效性越高，假设我们有 $m$ 个序列，将这些序列通过算法聚为 $n$ 类，使用 DBI 聚类效果评价方法。具体定义如下：
$DBI=\frac{1}{N}\sum^N_{i=1}\displaystyle \max_{j\neq i}\frac{\overline{S_i}+\overline{S_j}}{\left\| w_i-w_j\right\|_2}$

式中： $D B I$ 表示 DBI 指标值； $\overline{S_i}$ 为第 $i$ 类样本到其类中心的平均欧氏距离； $\left\| w_i-w_j\right\|_2$ 为第 $i$ 和第 $j$ 类的类中心欧氏距离。

2.具体计算步骤

1）计算 $S_i$
- DBI 计算公式中首先定义了 $S_i$ 变量， $S_i$ 计算的是类内数据到簇质心的平均距离，代表了簇类 $i$ 中各时间序列的分散程度，计算公式为：
  $S_i=\left({\frac{1}{T_i}}\sum^{T_i}_{j=1}\left |X_j-A_i\right|^p\right)^{1/p}$
  其中 $X_j$ 代表簇类 $i$ 中第 $j$ 个数据点，也就是一个时间序列， $A_i$ 是簇类 $i$ 的质心， $T_i$ 是簇类 $i$ 中数据的个数。
- $p$ 取 1 表示：各点到中心的距离的均值， $p$ 取 2 时表示：各点到中心距离的标准差，它们都可以用来衡量分散程度。
- $p$ 在通常情况下取 2，这样就可以计算独立的数据点和质心的欧式距离（euclidean metric），当然在考察流型和高维数据的时候，欧氏距离也许不是最佳的距离计算方式，但也是比较典型的了。
2）计算 $M_{ij}$
分子之和计算完后，需计算分母 $M_{ij}$ ，DBI 定义了一个距离值 $M_{ij}$ ：表示第 $i$ 类与第 $j$ 类的距离，计算公式为：
$M_{ij}=\left\| A_i-A_j\right\|_p=\left(\sum^{N}_{k=1}\left |a_{ki}-a_{kj}\right|^p\right)^{1/p}$
$a_{ki}$ 表示第 $i$ 类的质心点的第 $K$ 个值， $M_{ij}$ 则就是第 $i$ 类与第 $j$ 类质心的距离（两个点的距离）。
3）计算 $R_{ij}$
计算了分子与分母后，DBI 定义了一个衡量相似度的值 $R_{ij}$ ，计算公式为：
$R_{ij}=\frac{S_i+S_j}{M_{ij}}$
衡量第 $i$ 类与第 $j$ 类的相似度。
4）计算DBI
有了以上公式的基础，我们做一个基于簇类数 $n$ 的 $n^2$ 的嵌套循环，对每一个簇类 $i$ 计算最大值的 $R_{ij}$ ，记为 $D_i$ ，即：
$D_i=\displaystyle \max_{j\neq i}R_{i,j}$
也即簇类 $i$ 与其他类的最大相似度值，也就是取出最差结果。然后对所有类的最大相似度取均值就得到了 DBI 指数，计算公式为：

$DBI=\overline{D}=\frac{1}{N}\sum^N_{i=1}D_i$
分类个数的不同可以导致不同的值，DBI 值越小，分类效果越好（说明分散程度越低）。

图例：
在这里插入图片描述
左图表示不同簇类数目下数据点的分类情况，右图表示在不同的簇类数目下(q=1)，DBI 值的变化。

总的来说，这个 DBI 就是计算类内距离之和与类间距离之比，来优化 k 值的选择，避免 K-means 算法中由于只计算目标函数Wn而导致局部最优的情况。

3.Python实现

Python 3 实现如下：

# -*- coding: utf-8 -*-
class evalution:

    @classmethod
    def vector_distance(cls, v1, v2):
        """
        this function calculates de euclidean distance between two vectors.
        params:
            v1: vector v1
            v2: vector v2
        """
        sum = 0
        for i in range(len(v1)):
            sum += (v1[i] - v2[i]) ** 2
        return sum ** 0.5

    @classmethod
    def compute_si(cls, i, x, clusters, nc):
        """
        Average distance from within-class data to cluster centroids
        params:
            clusters: 某一聚类中心点，例如 clusters[j]，具体内容取决于 j 的值。
            x: 分类结果中，某一类数据集合。
            i: label_的索引, 若为 1，则 x[1]表示 label 为 clusters[j] 的数据的集合
            nc: nc is number of clusters
        """
        norm_c = nc
        s = 0
        for t in x[i]:  # 遍历标签为 i 的数据
            s += cls.vector_distance(t, clusters)  # 遍历每个点 t 与质心clusters的距离，然后累加
        return s / norm_c

    @classmethod
    def compute_rij(cls, i, j, x, clusters, nc):
        """
        先计算 Mij，再计算 Rij
        params:
            clusters: cluster centroids
            i, j: 两个聚类结果的索引
            nc: nc is number of clusters
        """
        m_ij = cls.vector_distance(clusters[i], clusters[j])  # 计算质心 i 和 j 的距离 Mij (分母)
        r_ij = (cls.compute_si(i, x, clusters[i], nc) + cls.compute_si(j, x, clusters[j], nc)) / m_ij  # 衡量 i 和 j 的相似度
        return r_ij

    @classmethod
    def compute_di(cls, i, x, clusters, nc):
        """
        Calculates the max similarity between cluster i and other clusters
        params:
            i: 聚类结果中某一label_
            x: 聚类结果数据，x[1]表示label为1的数据的集合
            clusters: cluster centroids(聚类中心)
            nc: nc is number of clusters
        return:
            max(list_r): max similarity between cluster i and other clusters
        """
        list_r = []
        for j in range(nc):
            if i != j:
                temp = cls.compute_rij(i, j, x, clusters, nc)
                list_r.append(temp)
        return max(list_r)

    @classmethod
    def compute_db_index(cls, x, clusters, nc):
        """
        params:
            x:
            clusters:
            nc: nc is number of clusters
        """
        sigma_r = 0.0
        for i in range(nc):
            sigma_r = sigma_r + cls.compute_di(i, x, clusters, nc)
        db_index = float(sigma_r) / float(nc)
        return db_index

if __name__ == '__main__':
	db_index = evalution.compute_db_index(x, clusters, nc)