SRLGRN
论文:EMNLP2020-Semantic Role Labeling Graph Reasoning Network
语义角色标注图推理网络
任务
提出了一个基于句子语义结构的图推理网络来学习跨段落推理路径,并联合寻找支持事实和答案。
方法(模型)
SRLGRN
该框架在构建推理图网络时会考虑句子的语义结构。 不仅利用节点的语义角色,而且会利用边缘的语义。
-
训练一个段落选择模块来检索gold documents并最小化干扰因素。
-
构建了一个异类文档级图,其中包含以句子为节点以及SRL子图,其中SRL子图包括语义角色标签参数作为节点,谓词作为边。
-
训练图编码器来获得图节点表示,该图节点表示在学习的表示中结合了参数类型和谓词边的语义。
-
最后,共同训练一个multi-hop supporting fact prediction module和answer prediction module。
multi-hop supporting fact prediction module可以找到跨段落推理路径,answer prediction module可以得到最终答案。
based on contextual semantics graph representations as well as token-level BERT pre-trained representations.
模型结构:
SRLGRN由段落选择,图形构造,图形编码器,支持事实预测和答案跨度预测模块组成。
Paragraph Selection
- based on the pre-trained BERT model
两轮解释:
First Round Paragraph Selection
input: Q 1 Q_1 Q1
Q 1 = [ [ C L S ] ; q ; [ S E P ] ; C ] Q_1= [[CLS]; q; [SEP]; C] Q1=[[CLS];q;[SEP];C]
q: question
C: paragraph content
C = { t , s 1 , . . . , s n } C = \{t, s_1, . . . , s_n\} C={ t,s1,...,sn}
t: title
s n s_n sn: sentences
- 将 Q