【无监督短语抽取】SIFRank论文详读

SIFRank: A New Baseline for Unsupervised

Keyphrase Extraction Based on Pre-Trained
Language Model

Reading Date: September 19, 2022
Type: Thesis

论文:https://ieeexplore.ieee.org/document/8954611

项目:https://github.com/yukuotc/SIFRank_zh

SIFRank: 一个基于预训练模型的无监督关键词抽取的模型

它由两部分组成:句向量模型SIF和自回归预训练模型ELMO。

在短文本中它表现优异。

document segmentation和contextual word embeddings alignment在保证accuracy的前提下加速了SIFRank。

我们用position-biased weight升级SIFRank to SIFRank+,极大地提高了在长文本中的表现。

传统无监督方法

  • 基于统计信息
    • 基于n-gram,语法,词频等
  • 基于图
    • 例:textrank

SIFRank模型

在这里插入图片描述

  1. document进行分词和词性标注
  2. 提取其中的noun phrases
  3. 利用ELMO得到字向量和NP向量
  4. 利用SIF模型将字向量和NP向量投影成同一层、同一维度的向量
  5. 计算两个向量间的cos相似度,选择top n作为最后keyphrases,同时也可以得到分数

SIF模型

选择SIF作为sentence embedding model的原因是

  1. 它适配大部分预训练模型
  2. 通过SIF模型得到的句向量可以很好地反应document的主题

在这里插入图片描述

Model Domain Adaption

在这里插入图片描述

weight_com是提前在大型语料里统计的词频。weight_dom则是在垂直领域上的统计词频。

Document Segmentation

把文章输入ELMO之前,先将文章分块,这样可以并行独立运算。

在这里插入图片描述

Embedding Alignment

因为文章分块后,丢失了完整的上下文信息,这里用了EA方法进行保留。

在这里插入图片描述

SIFRank+

POSITION-BIASED WEIGHT FOR LONG DOCUMENTS

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
Python是一种强大的编程语言,它可以用于抽取事件并进行建模。在Python中,我们可以使用各种库和工具来实现事件抽取和建模的任务。 首先,我们可以使用自然语言处理(NLP)库,如NLTK或SpaCy,来处理文本数据。这些库提供了各种功能,包括分词、词性标注和命名实体识别等。通过使用这些功能,我们可以将原始文本分解成句子、单词和短语,帮助我们更好地理解和处理文本。 接下来,我们可以使用机器学习算法来训练一个事件抽取模型。Python中有多个机器学习库可供选择,如scikit-learn和TensorFlow等。我们可以使用这些库来训练一个事件抽取模型,该模型可以从给定的文本中自动提取出事件。 在训练事件抽取模型时,我们需要标记一些样本数据,以便算法可以学习如何识别和提取事件。通过标记一些文本样本,我们可以将文本中的事件和相应的参数标注出来,以便模型能够从未标记的文本中识别和提取出类似的事件。 最后,一旦我们训练好了事件抽取模型,我们可以将其应用于新的文本数据,以自动提取出事件和参数。通过使用Python中的各种文本处理和机器学习库,我们可以轻松地从大量的文本数据中提取出事件,从而对文本数据进行建模和分析。 总的来说,Python提供了强大的工具和库来实现事件抽取和建模。通过使用自然语言处理和机器学习技术,我们可以从文本数据中自动抽取出事件,并据此进行进一步的分析和建模。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值