Joint Event and Temporal Relation Extraction with Shared Representations and Structured Prediction

论文

摘要

这篇文章主要是解决“事件-事件联合抽取”问题。与已有工作相比，本文提出的方法有两个优点：

• 通过允许事件和关系模块共享相同的上下文嵌入和神经表示学习器来改进事件表示。
• 通过利用结构化推理和学习方法对事件标签和关系标签进行联合分配，避免了在传统PipeLine模型中的错误传播。

介绍

事件间时间关系的提取是一项重要的自然语言理解(NLU)任务，它可以帮助许多后续任务，如问题回答、信息检索和叙事生成。该任务可以建模为为给定的文本构建一个图，图中的节点表示事件，而边相应地标记有时间关系。下图（a）表示出了下面文本的图结构。

The assassination touched off a murderous rampage by Hutu security forces and civilians，who slaughtered mainly Tutsis but also Hutus who favored reconciliation with the minority. It also reignited the civil war.
这次暗杀引发了胡图族安全部队和平民的疯狂杀戮，他们屠杀的主要是图西族人，但也有胡图人支持与少数民族和解。它也重新点燃了内战。

assassination（暗杀）、slaughtered（屠杀）、rampage（疯狂）、war、Hutu节点是候选事件，不同类型的边规定了事件之间不同的时间关系：assassination在rampage之前（BEFORE），rampage包括(INCLUDES)slaughtered，slaughtered和war的关系是模糊(VAGUE)的。由于“Hutu”实际上不是一个事件，因此系统应将“Hutu”与图中所有其他节点之间的关系注释为无(NONE，即无关系)。

即事件提取和时间关系分类，并且他们还假设在训练关系分类器时给出黄金事件(V erhagen等人，2007、2010；Uzzaman等人，2013；Chambers等人，2014；Ning等人，2017；Meng和Rumshisky，2018)。具体地说，他们建立了端到端的系统，首先提取事件，然后预测它们之间的时间关系(如下图（b）)。
在这些PipeLine模型中，事件提取错误将传播到关系分类步骤，之后无法纠正。

• 我们的第一个贡献是提出了一个同时提取事件和时间关系的联合模型(见下图（c）)。
  
  其动机是，如果我们训练的关系分类器没有非事件之间的关系，那么它就有可能具有纠正事件提取错误的能力。例如，在图（a）中，如果关系分类器高置信度地对(Hutu，War)预测为无，则这时可由事件分类器用来推断它们中的至少一个不是事件的强信号。

• 我们的第二个贡献是通过首次在事件提取模块和时间关系提取模块之间共享相同的上下文嵌入和神经表示学习器来改进事件表示。在共享嵌入和神经表示学习器的基础上，该模型产生表示给定句子中的所有事件和关系的图结构输出。
  在这种情况下，有效的图预测应该满足两个结构约束。

• 两个非事件之间或一个事件和一个非事件之间