双关系预测与特征融合的实体关系抽取模型

本文提出了一种双关系预测和特征融合的实体关系抽取模型DRPFF,旨在解决现有模型在实体关系抽取中的阶段间特征融合不充分和曝光偏差问题。DRPFF采用BERT编码层,结合门控线性单元(GLU)和条件层规范化(CLN)进行特征融合,构建两阶段的双关系预测结构,减少了错误三元组的生成。模型在NYT和WebNLG数据集上相比于基线模型取得了更好的效果。
摘要由CSDN通过智能技术生成

摘要: 现有分阶段解码的实体关系抽取模型仍存在着阶段间特征融合不充分的问题,会增大曝光偏差对抽取性能的影响。为此,提出一种双关系预测和特征融合的实体关系抽取模型(entity relation extraction model with dual relation prediction and feature fusion,DRPFF),该模型使用预训练的基于Transformer的双向编码表示模型(bidirectional encoder representation from transformers, BERT)对文本进行编码,并设计两阶段的双关系预测结构来减少抽取过程中错误三元组的生成。在阶段间通过门控线性单元(gated linear unit,GLU)和条件层规范化(conditional layer normalization,CLN)组合的结构来更好地融合实体之间的特征。在NYT和WebNLG这2个公开数据集上的试验结果表明,该模型相较于基线方法取得了更好的效果。

  • 关键词: 
  • 实体关系抽取  /  
  • 关系三元组  /  
  • 预训练模型  /  
  • 双关系预测  /  
  • 指针网络  /  
  • 特征融合  /  
  • 门控线性单元  /  
  • 条件层规范化  
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

罗伯特之技术屋

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值