知识图谱上的推理任务

tips:

两个竖线是欧氏距离

1. Reasoning over Knowledge Graphs

我们应该如何回答KG上的path query问题呢?
如果图是complete的话,那么我们只需要沿query plan直接traverse(遍历)KG就可以。根据关系直接遍历知识图谱就可以解决。

但由于KG是incomplete的,所以如果仅traverse KG,可能会缺失一些关系,从而无法找到全部作为答案的实体。

我们可能很直觉地会想,那能不能直接先用KG补全技术,将KG补全为completed (probabilistic) KG,然后再traverse KG?
但这样不行,KG被补全后就会是一个稠密图,因为KG补全后很多关系存在的概率都非0,所以KG上会有很多关系,在traverse时要过的边太多,其复杂度与路径长度 L 呈指数增长。

因此我们就需要进行预测任务:predictive queries
目标:在incomplete KG上回答path-based queries
我们希望这一方法能够回答任意查询问题,同时隐式地impute或补全KG,实现对KG中缺失信息和噪音的鲁棒性。

2. Answering Predictive Queries on Knowledge Graphs

核心思想:嵌入query
相当于把TransE1 泛化到multi-hop reasoning任务上

可以训练TransE来优化KG补全目标函数。
因为TransE天然可以处理composition relations,所以也能处理path queries,在隐空间通过叠加relation嵌入来表示多跳。

对于conjunctive queries,如果是complete的话,那么我们只需要沿query plan直接traverse,但是对于incomplete的话,我们希望通过嵌入方法来隐式impute KG中缺失的关系,此外我们还需要定义在隐空间的intersection操作。

3.Query2box: Reasoning over KGs Using Box Embeddings

        1.box embeddings

用 hyper-rectangles (boxes) 来建模query:q =(Center(q),Offset(q)),在理想状态下,一个box里包含了所有query的回答的实体。

        2.key insight: intersection

box就是组合之后还是box,就很好定义节点集的intersection。

对于center:

wi就是神经网络训练出来的self score,中心就是几个box的中心的加权和,谁的权重高,就偏向于谁。

对于offset

f 是一个含可训练参数的神经网络,提取input boxes的表示向量以增强表示能力

通过定义intersection operator,现在我们可以完成使用box embedding沿query plan的求解

        3.entity-to-box distance

盒内距离权重小,加上盒外距离,再取个相反数得到score function  fq(v)

disjunction:析取

conjunctive:合取

conjunctive queries + disjunction叫AND-OR queries。在任意查询上的union操作必须要高维嵌入。就像异或问题,不能用一条直线完全分割,这个也会出现不能用一个盒子包含conjunctive queries

4.disjunctive normal form (DNF)析取范式

对于析取范式的距离就是众多q中最小的一个,直观上理解就是只要有一个最近的答案就可以满足query

嵌入AND-OR query,分别嵌入q1至qm计算distance的最小值,取个负数,得到score。

训练过程:

抽样的query是由query template实例化后得到的,query template可以看出query的抽象。我的理解是从answer遍历relation反向创立query,这样把整个kg遍历一遍,一定能得到答案集合,但是我不理解这是怎么推出隐边的,可能是在抽样的时候可以是没有连接,认为他有这条边,然后去算得分去确定是否存在这条边。

  • 12
    点赞
  • 13
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值