社团检测度量指标

I was well beaten myself，and i am better for it.

我自己也被被打败过，但我因此变得更好。

---

更新：社区检测中重叠模块度计算方法详解及其 Python 实现

---

社团检测度量指标

假设对于图$G(V，E)$有两种划分$X=(X_1,X_2,...,X_{n_X})$和$Y=(Y_1,Y_2,...,Y_{n_Y})$,$n_X,n_Y$分别是划分$X,Y$得到的社团的个数。用$n_i^X,n_j^Y$表示社团$X_i,Y_j$中顶点的数量，$n_{ij}$表示社团$X_i,Y_j$中重叠的顶点个数：$n_{ij}=|X_i\cap Y_j|$

根据不同的计算方法，社团检测指标大概可以分为以下三类：

• 基于成对计数（Based on pair counting）
• 基于聚类匹配（Based on cluster matching）
• 基于信息论（Based on information theory）

基于成对计数指标

基于成对计数度量取决于两种划分$X,Y$中将顶点对划分在同一个社团的顶点对的数量。符号$a_{11}$表示两种划分中顶点对在同一个社团中的顶点对的数量，$a_{01}（a_{10}）$表示在顶点对在划分$X$中在同一个社团中但是在划分$Y$中在不同社团中的顶点对的数量，$a_{00}$表示两种划分中顶点对都不在同一个社团中顶点对的数量。

Wallace 提出两种指标

$$W_I=\frac{a_{11}}{{\sum }_k{n}_k^X(n_k^X-1)/2};W_{II}=\frac{a_{11}}{{\sum }_k{n}_k^Y(n_k^Y-1)/2}$$

$W_I,W_{II}$表示划分$X$中顶点对在同一个社团并且在划分$Y$中也在同一个社团中的概率，反之亦然。这两种指标是对称的但是数值不同，一般使用$W_I,W_{II}$的平均值作为度量标准。

兰德指数（Rand Index）

兰德指数 是两种划分$X,Y$中顶点对正确分类的数量（顶点对在同一个社团中或者在不同的社团中）与总的顶点对的数量的比值，可以使用下式表示：

$$RI（X,Y）=\frac{a_{11}+a_{00}}{a_{11}+a_{01}+a_{10}+a_{00}}=\frac{a_{11}+a_{00}}{C_2^{n_G}}$$

其中$C_2^{n_G}$是图中可以组成的总顶点对对数，RI取值范围为[0,1]，值越大意味着两种划分结果越吻合。

对于随机结果，RI并不能保证分数接近零。为了实现“在聚类结果随机产生的情况下，指标应该接近零”，调整兰德系数（Adjusted rand index）被提出，它具有更高的区分度：

$$ARI=\frac{RI-E[RI]}{max(RI)-E[RI]}$$

可参考Wiki上详细的ARI计算公式 ，ARI取值范围为[−1,1]，值越大意味着两种划分结果越吻合。从广义的角度来讲，ARI衡量的是两个数据分布的吻合程度。

杰卡德指数（Jaccard Index）

杰卡德指数是两种划分$X,Y$中都在同一个社团中顶点对的数量和顶点对至少在一种划分的社团中的比值，可以使用下式来表示：

$$J(X,Y)=\frac{a_{11}}{a_{11}+a_{01}+a_{a_{10}}}$$

对于其改进形式可以参考这篇论文Comparing clusterings—an information based distance

基于聚类匹配指标

基于类匹配的度量方法是找出不同划分中社团的重叠性。

分类错误率（Classification Error）

计算公式定义如下：

$$H(X,Y)=1-\frac{1}{n}\underset{\pi }{\max }\sum _{k=1}^{n_X}{n}_{k\pi (k)}$$

其中$\pi$是$X\to Y$的单射函数，其中$max$是考虑到所有的单射函数集合$\pi$，按照这种计算方式就可以考虑到两种划分的最大的重叠性。具体定义信息可以参考论文An Experimental Comparison of Model-Based Clustering Methods

Normalized Van Dongen Metric

计算公式定义如下：

$$D(X,Y)=1-\frac{1}{2n}[\sum _{k=1}^{n_X}\underset{k^{{}^{\prime }}}{\max }{n}_{k{k}^{{}^{\prime }}}+\sum _{k^{{}^{\prime }}=1}^{n_Y}\underset{k}{\max }{n}_{k{k}^{{}^{\prime }}}]$$

上面公式是对分类错误率公式的改进，具体信息可以参考论文Performance criteria for graph clustering and Markov cluster experiments

基于信息论指标

基于信息论的度量指标根据香农信息熵理论进行计算不同划分之间的相关性。下面只简单介绍标准化信息，具体计算标准可以参考论文Information Theoretic Measures for Clusterings Comparison: Variants, Properties, Normalization and Correction for Chance

互信息（Mutual Information）

互信息（Mutual Information）是用来衡量两个数据分布的吻合程度。假设$X$与$Y$是对N个顶点的划分情况，则两种划分的熵（熵表示的是不确定程度）分别为：

$$H(X)=-\sum _{i=1}^{|X|}P(i)log(P(i));H(Y)=-\sum _{j=1}^{|Y|}{P}^{{}^{\prime }}(j)log(P^{{}^{\prime }}(j))$$

其中$P(i)=|X_i|/N,P^{{}^{\prime }}(j)=|Y_j|/N$.

那么$X,Y$之间的互信息$MI$可以定义如下：

$$MI(X,Y)=\sum _{i=1}^{|X|}\sum _{j=1}^{|Y|}P(i,j)log(\frac{P(i,j)}{P(i)P^{{}^{\prime }}(j)})$$

其中$P(i,j)=|X_i\cap Y_j|/N$.上式可以用集合的形式表示如下：

$$MI(X,Y)=\sum _{i=1}^{|X|}\sum _{j=1}^{|Y|}\frac{|X_i\cap Y_j|}{N}log(\frac{N|X_i\cap Y_j|}{|X_i||Y_j|})$$

标准化互信息（Normalized Mutual Information）

标准化信息定义如下：

$$NMI(X,Y)=\frac{MI(X,Y)}{\sqrt{H(X)H(Y)}}或者NMI(X,Y)=\frac{2MI(X,Y)}{H(X)H(Y)}$$

具体计算过程可以参考我的另一篇博客：标准化互信息NMI计算步骤及其Python实现

调整的互信息（Adjusted Mutual Information）

与$ARI$调整方法相似，$AdjustedIndex=\frac{Index-ExpectedIndex}{MaxIndex-ExpectedIndex}$，那么调整的互信息可以表示为如下形式：

$$AMI=\frac{MI-E[MI]}{max(H(X),H(Y))-E[MI]}$$

具体计算形式可以参考Wikipedia上Adjusted mutual information

其它相关指标

以上度量指标适用于人工生成的数据集，对于真实网络的数据集一般采用以下两种度量指标：

非重叠社团划分质量的模块度函数Q

模块度的主要介绍可以参考Wiki上Modularity networks，以下写出主要的理解。

设$A$为网络的邻接矩阵，$c_v,c_w$分别为点$v,w$所在的两个社团，社团内部的边数和网络中总边数的比例为：

$$\frac{{\sum }_{vw}{A}_{vw}\delta (c_v,c_w)}{{\sum }_{vw}{A}_{vw}}=\frac{1}{2m}\sum _{vw}\delta (c_v,c_w)$$

函数$\delta$为克罗内克函数，m为网络中的总边数。

模块度的大小定义如下：社团内部的总边数和网络中的总边数的比例减去一个期望值，该期望值是将网络设定为随机网络时同样的社团分配所形成的社团内部的总边数和网络中总边数的比例的大小，模块度计算公式定义如下：

$$Q=\frac{1}{2m}\sum _{vw}[A_{vw}-\frac{k_v{k}_w}{2m}]\delta (c_v,c_w)$$

其中，$k_v$表示节点$v$的度。设$e_{ij}$表示社团$i$和社团$j$内部边数目的和与总边数的比例，$a_i$表示社团$i$内部的点所关联的所有边的数目与总边数的比例，可以用一下公式来表示：

$$e_{ij}=\frac{1}{2m}\sum _{vw}{A}_{vw}\delta (c_v,i)\delta (c_w,j);a_i=\frac{1}{2m}\sum _v{k}_v\delta (c_v,i)$$

可以根据上述定义简化Q的计算，假设网络分为n个社团，Q的计算公式可以进一步推导：

$Q=\frac{1}{2m}{\sum }_{vw}[A_{vw}-\frac{k_v{k}_w}{2m}]\delta (c_v,c_w)$

$={\sum }_i[\frac{1}{2m}{\sum }_{vw}{A}_{vw}\delta (c_v,i)\delta (c_w,i)-\frac{1}{2m}{\sum }_v{k}_v\delta (c_v,i)\frac{1}{2m}{\sum }_w{k}_w\delta (c_w,i)]$

$={\sum }_i(e_{ii}-a_i^2)$

在进行每次划分的时候计算Q值，Q取值最大的时候则是此网络较理想的划分。Q值的范围在0-1之间，Q值越大说明网络划分的社区结构准确度越高，在实际的网络分析中，Q值的最高点一般出现在0.3-0.7之间。

重叠社团划分质量的模块度函数 EQ

由模块度改进的指标EQ可用于度量重叠社团的划分结果，具体推导过程可以参考论文Extending the definition of modularity to directed graphs with overlapping communities，以下给出具体的定义公式：

$$EQ=\frac{1}{2m}\sum _i\sum _{u\in c_i,v\in c_i}\frac{1}{Q_u{Q}_v}[A_{uv}-\frac{k_u{k}_v}{2m}]$$

其中$Q_u$表示节点u所属的社团，$A$为网络的邻接矩阵，$k_u$为节点$u$的度，$m$表示网络中的总边数。