Cognitive Graph for Multi-Hop Reading Comprehension at Scale论文泛读笔记

一、写在前面的话

由于时间有点赶，所以大致上只是简单地浏览了一遍，如有不对的地方，还望多多指教。整体看来，该模型的提出是针对多跳阅读理解，即若问题想要的答案无法在包含在一次检索中。

故CogQA使用两个系统来维护一张认知图谱（Cognitive Graph），系统一在文本中抽取与问题相关的实体名称并扩展节点和汇总语义向量，系统二利用图神经网络在认知图谱上进行推理计算。

二、论文模型

1. 系统一：BERT

• 输入：问题本身、从前面段落中找到的“线索(clues)”、关于某个实体x的维基百科文档

• 系统一的作用：

1. 抽取文档中的“下一跳实体名称(hop span)”和“答案候选(ans span)”，这部分做法和正常的阅读理解一样，使用pointer network输出每个位置是“下一跳实体名称”或者“答案候选”开始或者结束的概率，但CogQA认为“下一跳实体名称”更多关注语意相关性，“答案候选”则需要匹配疑问词，故CogQA使用4类标签对每个位置进行标注： S h o p S_{hop}