SGRank

SGRank: Combining Statistical and Graphical Methods to Improve the State of the Art in Unsupervised Keyphrase Extraction

SGRank简介

SGRank是2015年提出来的无监督关键词抽取算法。无监督关键词抽取主要可以分成两个类别：一类是基于统计的方法；一类是基于图的方法。这次由此提出了一种混合统计-图的新算法，来实现无监督关键词抽取的最佳效果。

SGRank思想

SGRank算法主要的改进在于：1、基于最优统计特征构建关键字抽取算法；2、将其与基于图的算法相结合来进一步改进。基于图的方法考虑了词的共现关系，n元语法规则。

TF和IDF都是启发式信息。

SGRank实现

1、从输入文本中提取所有可能的Ngram，并排除那些极不可能是关键短语的，例如包含标点符号的n-gram。

2、基于tf idf的修改版本对剩余的n-GRAM进行排序。

3、基于附加的统计启发式（例如第一次出现的位置和术语长度）对来自第二阶段的排名靠前的候选项进行重新排序。

4、将阶段三中产生的排名合并到基于图的算法中，该算法产生关键短语候选的最终排名。

其中第三步附加的统计启发式包含词第一次出现的位置，词越早出现在文档中，越可能是关键词：
$$PFO(t,d)=log(\frac{cutoffPosition}{p(t,d)})$$
其中$p(t,d)$表示词$t$第一次出现在文档$d$中的位置；$cutoffPosition$被默认设置为3000。

还考虑了候选关键字的长度，候选关键词长度越长，越有可能是关键词：使用$TL(t)$来进行表示候选关键字的长度。

最终形成一个新的公式，对筛选出的候选关键词进行排序：
$$w_s(t,d)=(tf(t,d)-subSumCount(t,d)\ast idf(t)\ast PFO(t,d)\ast TL(t))$$
其中$subSumCount(t,d)$是在所有候选关键词$T$中包含词$t$的频率之和。

$$w_d(t_i,t_j)=\frac{{\sum }_{i=1}^{tf(t_i)}{\sum }_{j=1}^{tf(t_j)}log(\frac{winSize}{|po{s}_i-po{s}_j|})}{numCo-occurrences(t_i,t_j)}$$
其中$winSize$是共现窗口的大小，通常被设置1500；$po{s}_i$和$po{s}_j$是词$t_i$和$t_j$的各自出现位置；$numCo-occurrences(t_i,t_j)$表示的是在1500窗口内，两个词共现的数量。

考虑到高统计特征词之间的交互概率应该高于低统计特征词之间的交互概率，所以词之间的连边权重将按照以下公式进行定义：
$$w_e(t_i,t_j)=w_d(t_i,t_j)\ast w_s(t_i)\ast w_s(t_j)$$
$w_d$将作为词$t_i$和$t_j$之间的权重被添加到词的统计特征中来。

最终图的迭代公式如下，因为会对每个节点的输出权重进行归一化，所以和PageRank的原始公式存在一定的差距：
$$S(V_i)=(1-d)+d\ast \sum _{j\in In(V_i)}\frac{w_e(j,i)\ast S(V_i)}{{\sum }_{k\in Out(V_j)}{w}_e(j,k)}$$

SGRank算法结果

数据集：Semeval 2010，Inspec、Krapivin。

模型：SGRank、KP-Miner、TextRank。

表1 多种关键词提取算法结果比较

SGRank总结

SGRank是一种无监督的关键短语提取算法，该算法结合了统计和基于图形的启发式方法，能够在多个数据集上改进具有统计意义的现有技术。在其他特征中，SGRank使用了一种新的包容启发式变化。我们还证明了对数衰减函数在数学上表示基于短语距离的启发式算法的适用性，例如第一次出现的位置和基于短语出现的平均距离的图边加权。SGRank另一种方式是作为项加权方案。因此，一个有趣的未来方向将是研究在信息检索、文档聚类和监督算法等领域取代传统的术语加权方案（如tf-idf）是否会导致性能的任何改进。