(论文学习笔记)用卷积网络实现实体关系分类

这篇论文笔记介绍了如何利用卷积神经网络(CNN)进行实体关系分类。研究重点包括词汇和句子级别的特征提取。模型输入是带有标记的名词句子,通过词向量表示并结合词法和句法特征,最后输入SoftMax分类器计算关系的置信度。实验表明,加入句子级别特征能显著提升关系分类效果。
摘要由CSDN通过智能技术生成

@(论文学习笔记)用卷积网络实现实体关系分类

研究要点

  1. 词汇级别和句子级别特征的提取。
  2. 卷积神经网络进行名词实体之间关系的分类。

论文所用模型

Relation Classification via Convolutional Deep Neural Network
关系分类的整体模型结构如图:
Alt
系统的输入是一个有两个标记名词的句子。然后,通过查找单词嵌入将单词标记转换为向量。接着,分别提取词法特征和句子级特征,然后直接连接形成最终特征向量。最后,为了计算每个关系的置信度,将特征向量输入到一个SoftMax分类器中。分类器的输出是一个向量,其维数等于预定义的关系类型的数目。每个维度的值是对应关系的置信度得分。

词级别的特征提取

词级别特征包括:
Alt
两个名词实体的词向量,两个标记名词左右相邻词的,以及标记名词的上位词(WordNet,是一个相关联的词库)拼接起来,作为句子的词汇级别特征。

句子级别特征

词向量特征不能获取长的句子序列特征和语义语序组合性,因此将句子级特征进一步表示为本单词和相邻单词的词向量WF,单词到两个目标名词的距离PF。
Alt
PF包含位置信息,在使用时与句子的词向量表示拼接。如图,WF和PF向量输入最大池化的CNN,通过非线性变换得到句子级别的特征。

Experiments

Alt
Alt
可以看出句子级别特征的加入,对关系分类模型最终的效果有明显提升

  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值