EmbedKGQA论文简要解读

KGQA与KGE

关于KGQA以及知识图谱嵌入的简单介绍可以看之前的两篇博客:

  1. KGQA概览
  2. 知识图谱嵌入简单介绍

这篇论文就是结合知识图谱嵌入(KGE)来进行多跳知识问答

EmbedKGQA

论文源代码

MetaQA数据

实验数据集是MetaQA数据集,该数据集是基于电影知识图谱的电影问答。下载链接

提供的KG

我们需要提供的KG,因为我们要预先训练KG中每一个实体的embedding。KG如下:
在这里插入图片描述
比如,用ComplEx这个KGE模型训练MetaQA知识图谱得到的结果:
在这里插入图片描述

提供的QA数据

在这里插入图片描述
提供的QA数据就是由(q,a) pairs组成的数据集,每一个(q,a)对中,问题q包含一个实体,由中括号标出
每一个答案a就是KG中的一个实体。

模型流程

流程图如下:
在这里插入图片描述

模型流程:

  1. 首先利用相关的KGE模型预训练,获得每一个实体的embedding,记为entity_embed_matrix
  2. 对于QA数据集中的每一个样本,取出question中的实体名词,从entity_embed_matrix中找到这个实体名词对应的embedding,记为head_embed
  3. 将question中的实体名词用统一字符NE替代,然后将question输入到BiLSTM中,取前向的最后一个时刻与反向的第一个时刻的hidden state的结合作为整个句子语义的embedding,记为question_embed
  4. 然后将head_embed与question_embed输入到ComplEx模型中(目的是推理),得到一个长度为N的向量,记为predict,这个N代表所有实体的数量,比如实验提供的KG数据集中数量是43234
  5. predict中每一个数值代表模型预测对应实体的分数,比如predict中第二个数字是0.0045,那么代表模型预测当前question对应的答案是KG中第二个实体的分数是0.0045

测试指标可以用准确率衡量,也就是模型预测的predict中,分数最高的那个位置对应的实体是否是真正的answer。

  • 1
    点赞
  • 9
    收藏
    觉得还不错? 一键收藏
  • 4
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 4
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值