Document Modeling with Graph Attention Networks for Multi-grained Machine Reading Comprehension阅读笔记

面向多粒度机器阅读理解的图形注意网络文档建模（阅读笔记）

待解决问题：
长答案、短答案在训练过程中单独处理两个子任务会忽略它们的依赖性
解决方案：
提出多粒度机器阅读理解框架——侧重对文档的层次性质（文档、段落、句子、标记等粒度）进行建模。长答案可从段落级提取，短答案可从标记粒度提取
利用图形注意力网络获得不同层次的表示，实现同时学习，对细粒度答案之间的依赖关系进行建模。对两个子任务进行联合训练。

问题定义：
定义训练集的输入是一个六元组：（c,S,l,s,e,t）
c= ([CLS],Q1,…Q|Q|,[SEP],D1,…D|D|[SEP])
S表示长答案候选集合片段，l∈S表示目标长答案候选
s,e∈{0，1，…511}
t∈{0，1，2，3，4}表示对应5个答案标签的答案标注类型
目标是学习一个可以识别长答案和在长答案中的短答案的模型