CoKE: Contextualized Knowledge Graph Embedding

COKE简介

先前的知识图谱嵌入方法允许对每个实体或关系进行单个静态嵌入，忽略了他们的内在上下文属性。CoKE是一个新奇的模型：它考虑到上下文属性，学习动态的，灵活的和充满上下文的实体和关系embedding。有两种类型的图内容被考虑到：边和路径，这两者都被形式化为实体和关系的序列。COKE利用transformer块来对输入进行编码并获得实体和关系的上下文表达。

COKE的整体概图

任务：链接预测和路径问题回答
模型输入：元素embedding和位置embedding


当构建了所有的输入表达之后，将他们再输入到一堆连续的transformer编码器中来编码序列。