目录
一、论文一览
- Extracting Temporal Event Relation with Syntax-guided Graph
Transformer(Zhang et al., Findings 2022) - RSGT: Relational Structure Guided Temporal Relation Extraction (Zhou et al., COLING 2022)
- More than Classification: A Unified Framework for Event Temporal Relation Extraction (Huang et al., ACL 2023) 目前还未有公布代码
二、Extracting Temporal Event Relation with Syntax-guided Graph Transformer
-
事件时间关系调研
在MATRES数据集中,大约52%的时间线索1来自两个事件提及之间的联系(S1), 39%来自其周围语境(S2),其余9%来自其他因素,如事件共指或从句结构(S3)。
问题:发现和利用两个事件提及之间的联系,特别是当事件对在文本中相距很远的时候 -
之前工作缺点
(1)序列编码器缺点:无法捕获有用信息如表征两个事件提及之间的时间关系的时间线索主要来自它们周围的上下文以及它们的句法依赖路径的连接
(2)以前的工作重点解决在时间关系的对称性和及物性方面的不一致。 -
创新点
(1)考虑了三个重要的时间线索来源:局部上下文,表示依赖图中每个事件节点的邻居;两个事件提及的连接,基于两个事件提及之间的依赖路径;并且语义丰富的概念和依赖关系
(2)提出Syntax-guided Graph Transformer (SGT学习事件表示) network和a new attention mechanism(dependency parsing tree语法依赖信息)
(2)具体方法:为了有效地捕获两个事件提及之间的时间线索,从一个或两个输入句子构建了一个依赖图,并设计了一个新的语法引导的graph Transformer网络,通过考虑它们局部涉及的三元组以及依赖图中两个事件提及的依赖路径上的三元组,自动学习每个事件提及的新的上下文表示。将两个事件提及表示连接起来以预测它们的时间关系
句子编码:input sentence–tokenizer–subtokens–Bert预训练模型–wi+单词性(POS)标记–ci
事件探测:给定从一个或两个连续句子中检测到的源事件和目标事件(二进制线性分类器+最小化以下二进制交叉熵损失)
Leve为事件检测的交叉熵损失;S是训练数据集中的句子集合;απ每个类是否有一个权重系数(0或1)来缓解数据不平衡问题并且α0 + α1 = 1;yi,π表示π是否与(yi,π = 1 or0)相同的二进制指示符;y˜i,π表示用二进制类标号π预测s中的第i个标记的概率;weve和beve是可学习的参数
Syntax-guided Graph Transformer:使用a public dependency parser将每个句子解析成树状