【自然语言处理】【知识图谱】基于图匹配神经网络的跨语言知识图谱对齐

《基于图匹配神经网络的跨语言知识图谱对齐》 Cross-lingual Knowledge Graph Alignment via Graph Matching Neural Network

相关博客：
【自然语言处理】【知识图谱】利用属性、值、结构来实现实体对齐
【自然语言处理】【知识图谱】基于图匹配神经网络的跨语言知识图谱对齐
【自然语言处理】【知识图谱】使用属性嵌入实现知识图谱间的实体对齐
【自然语言处理】【知识图谱】用于实体对齐的多视角知识图谱嵌入
【自然语言处理】【知识图谱】MTransE：用于交叉知识对齐的多语言知识图谱嵌入
【自然语言处理】【知识图谱】SEU：无监督、非神经网络实体对齐超越有监督图神经网络？

一、简介

知识图谱以结构化的形式表示人类的知识，并成功应用到了许多自然语言处理任务中。但是，知识图谱通常是单语言的。为了能够将不同语言的知识图谱链接起来，交叉语言知识图谱对齐任务被提了出来。

近些年研究者提出了许多实体对齐的方法，这些方法将三元组中的知识编码至低维向量空间中。但是，不同语言知识图谱中的实体，其所属的三元组可能并不相同，这将进一步提高对齐的难度。

图1中的两个实体$e_0$和$e_0^{\prime }$为对齐的实体，但是其邻居中仅有一对是对齐的实体，其他均不对齐。由于先前的嵌入方法不能将描述实体的文本信息(例如实体的name)进行编码，而结构又无法提供充分的信息用于对齐。

为了解决上面的问题，论文提出了$\text{topic entity graph}$来表示一个实体的上下文。并且不同于先前使用实体嵌入进行对齐的方法，论文将实体对齐问题转换为$\text{topic entity graph}$的图匹配问题。具体来说，首先利用$\text{GCN}$将两个图$G_1$和$G_2$编码为两个包含实体嵌入向量的列表。然后，通过一个注意力匹配方法将两个图中的实体进行两两匹配。最后，使用生成的两两匹配向量进行分类。

二、Topic Entity Graph

直觉上，知识图谱中实体的局部上下文信息对于实体对齐任务非常的重要。因此，论文提出了$\text{topic entity graph}$，其能够表示给定实体的上下文关系。$\text{topic entity graph}$的构建步骤如下：

• 收集给定实体的1跳邻居实体，得到实体集合 { e 1 , … , e n } \{e_1,\dots,e_n\} {e1​,…,en​}；
• 将集合 { e 1 , … , e n } \{e_1,\dots,e_n\} {e1​,…,en​}中的实体作为$\text{topic entity graph}$中的节点，若实体对$(e_i,e_j)$在原始知识图谱中存在关系$r$，那么在$\text{topic entity graph}$中添加一条连接这两个实体的有向边；
• $\text{topic entity graph}$中的边并不保留原始边的类型，只保留方向。

三、图匹配方法

本方法会为每对待对齐的实体创建对应的$\text{topic entity graph}$，即$G_1$和$G_2$。

1. 输入表示层

该层的目标是通过$\text{GCN}$来学习出现在$\text{topic entity graph}$中实体的嵌入向量。下面以实体$v$为例子展示嵌入向量的生成过程：

• (1) 利用单词级别的$\text{LSTM}$将实体$v$的名称转换为初始特征向量${\text{a}}_v$；
• (2) 根据边的方向，将实体$v$的邻居分类为输入邻居${\mathcal{N}}_{⊢}(v)$和输入层邻居${\mathcal{N}}_{⊣}(v)$；
• (3) 利用多层$\text{GCN}$将实体$v$的输入邻居的向量 { h u ⊢ k − 1 , ∀ u ∈ N ⊢ ( v ) } \{\textbf{h}_{u\vdash}^{k-1},\forall u\in\mathcal{N}_{\vdash}(v)\} {hu⊢k−1​,∀u∈N⊢​(v)}聚合为单一向量${\text{h}}_{{\mathcal{N}}_{⊢}(v)}^k$，其中$k$是迭代聚合的当前索引；
• (4) 将实体$v$当前的输入表示${\text{h}}_{v⊢}^{k-1}$与新生产的邻居聚合向量${\text{h}}_{{\mathcal{N}}_{⊢}(v)}^k$进行合并，并将合并的向量输入至全连接层，从而获得实体$v$的新输入表示${\text{h}}_{v⊢}^k$；
• (5) 采用类似的方式获得实体$v$的输出表示${\text{h}}_{v⊣}^k$；
• 重复(3)-(5) K次，并将最终的输入表示和输出表示进行拼接，获得实体$v$的最终向量表示。
• 通过该层最终能得到两个实体嵌入向量的集合 { e 1 1 , … , e ∣ G 1 ∣ 1 } \{\textbf{e}_1^1,\dots,\textbf{e}_{|G_1|}^1\} {e11​,…,e∣G1​∣1​}和 { e 1 2 , … , e ∣ G 2 ∣ 2 } \{\textbf{e}_1^2,\dots,\textbf{e}_{|G_2|}^2\} {e12​,…,e∣G2​∣2​}。

2. 节点级别(局部)匹配层

本层会对两个$\text{topic entity graph}$中所有实体嵌入向量进行两两匹配。具体来说，这里使用了一种基于注意力的匹配方式。首先，计算图$G_1$中实体$e_i^1$与$G_2$中所有实体 { e j 2 } \{e_j^2\} {ej2​}在表示空间中的$\text{cosine}$相似度，
α i , j = c o s i n e ( e i 1 , e j 2 ) j ∈ { 1 , … , ∣ G 2 ∣ } \alpha_{i,j}=cosine(\textbf{e}_i^1,\textbf{e}_j^2)\quad j\in\{1,\dots,|G_2|\} αi,j​=cosine(ei1​,ej2​)j∈{1,…,∣G2​∣}
将得到的相似度作为图$G_2$中每个实体的权重进行加权求和
$${\bar{\text{e}}}_i^1=\frac{{\sum }_{j=1}^{|G_2|}{\alpha }_{i,j}\cdot {\text{e}}_j^2}{{\sum }_{j=1}^{|G_2|}{\alpha }_{i,j}}$$
这里的操作类似文本匹配模型$\text{ESIM}$的操作，${\bar{\text{e}}}_i^1$是${\text{e}}_i^1$与$G_2$中所有实体的相似性加权向量。

在为图$G_1$和$G_2$中所有实体计算出相似加权向量后，通过一种多视角$\text{cosine}$匹配函数$f_m$来计算最终的匹配向量
$$\begin{array}{rl}& {\text{m}}_i^{att}=f_m({\text{e}}_i^1,{\bar{\text{e}}}_i^1)\\ & {\text{m}}_j^{att}=f_m({\text{e}}_j^2,{\bar{\text{e}}}_j^2)\end{array}$$
其中，函数$f_m$形式较为简单，详见原始论文附录。

3. 图级别(全局)匹配层

直觉上，匹配向量${\text{m}}^{att}$捕获了图$G_1(G_2)$中每个实体如何匹配另一个图中所有实体的信息。然而，这样的匹配仅保留局部匹配信息，并没有充分利用全局信息。例如，在在$G_1$和$G_2$共现的实体中有许多实体仅有很少的邻居。对于这些实体，利用局部匹配信息会有很高概率的不正确。为了克服这个问题，论文利用另一个$\text{GCN}$来将局部匹配信息传播至全图。

直觉上，局部匹配向量中保存了两个$\text{topic entity graph}$如何匹配的信息，那么在整个知识图谱上使用$\text{GCN}$将能够编码两个图的全局匹配信息。最后，论文将匹配向量表示输入全连接层中，并利用max pooling和mean pooling来生成固定长度的图匹配向量表示。

4. 预测层

将最终的匹配向量表示输入两层全连接层网络，并使用$\text{softmax}$来输出匹配结果。

四、训练及推理

为了模型训练，为每个正样本$⟨e_i^1,e_j^2⟩$随机的构造20个负样本：

• 使用将实体名称的预训练词向量求和的方式为$G_1$和$G_2$中的每个实体生成一个初始的嵌入向量；
• 然后找出与实体$e_i^1$(或$e_j^2$)在嵌入空间最近的10个实体，用于构造负样本

在推理时，给定一个$G_1$中的实体，将$G_2$中的实体按照模型输出的匹配概率进行降序排序；