Hierarchical Graph Network for Multi-hop Question Answering

最新推荐文章于 2024-05-30 11:54:45 发布
最新推荐文章于 2024-05-30 11:54:45 发布
阅读量851 收藏 4
点赞数
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Yunshang12345/article/details/109767873
版权

Hierarchical Graph Network for Multi-hop Question Answering (2020) 阅读笔记

动机：

现有的工作首先检索出可能包含正确答案的段落，再利用机器阅读理解模型根据所选的段落预测正确的答案。然而，如何利用不同粒度的数据资源去同时预测support evidence 和 answer 是一个难以解决的问题。

为了解决这个问题，最近的研究构建实体图，再在图上执行多跳推理。这些工作以下问题：

  1. 仅从实体图中的实体中预测答案，这与现实情况不符合。因为答案不仅仅是实体。
  2. 即使可以从文本中预测答案，但是所构建的实体图只能被用来预测答案，并不能预测support evidence.
贡献：

作者将解决多跳QA任务，分解为三个子任务：1. 从给定的段落中识别出相关段落；2. 找出这些段落中能回答问题的支撑证据；3.基于找到的支撑证据预测最终的答案。

作者提出了一个Hierarchical Graph Network (HGN)用于多跳机器问答。该模型可以通过一个分层架构的多水平细粒度图来共同预测答案和支撑证据。具体地，作者为每一个问题构建包含四种节点的图：问题，段落，句子和实体。首先利用预训练的bert模型为每种类型的节点得到一个上下文表示。然后，初始的上下文表示在图中实现信息的传递，最后将更新后的节点运用于不同的子任务中（段落选择，支撑证据预测和答案预测）。

模型：

HGN主要由四个部分组成：1 图构造模块； 2 上下文编码模块； 3 图推理模块； 4 多任务预测模块

1. Graph Construction

该部分分为两步：1. 识别与问题相关的多跳段落 和 2. 对于所选的段落， 增加可以表示句子/实体间联系的边

  • 段落选择

预训练一个语言模型RoBERTa再接一个二分类的神经网络层，来训练一个paragraph ranker，其输出表示，当前的输入句子包括support sentence的概率。

首先选择标题跟问题中的短语可以匹配的段落（称为title match）。如果有多个段落被选中，则利用ranker 选择得分最高的两个段落；

如果通过title match匹配不到任何段落，则寻找包含出现在问题中的实体的段落。如果这步操作也失败，则利用ranker选取得分最高的两个段落；

利用上述操作可以构建first-hop 的段落候选集。下一步需要操作的是，发现support facts 和 entity 从而找到 second-hop 的段落。

作者利用first-hop 段落中的超链接来构建second-hop 段落。并在first-hop 段落中的所有句子和 second-hop 段落中的所有句子间构建边，并使这些边为双向的。

为了确保不受噪音的干扰，在每跳中，再次使用ranker选取前k个段落。

 

  • 分层图构建

构建四种节点：问题，段落，句子，和实体

连接七种边：1 问题节点和段落节点(first-hop paragraph)； 2 问题节点和问题中所包含的实体的节点； 3 段落节点和该段落所包含的所有句子的节点； 4 句子节点 和 句子中所包含的超链接所指向的段落的节点； 5句子节点和该句子所包含的所有实体的节点；6 段落与段落的节点； 7 相同段落中的句子间。

 

2. Context Encoding

将所选的段落和问题进行拼接，再输入到RoBERTa+ bi-attention 模块种，得到编码的问题表示Q=\{q_0,q_1,\cdots,q_{m-1}\}\in \mathbb{R}^{m\times d}和编码后的上下文表示C=\{c_0,c_1,\cdots,c_{n-1}\}\in\mathbb{R}^{n\times d}.

再将上下文表示C输入到一个Bi-LSTM中，目的是从Bi-LSTM 的输出M\in \mathbb{R}^{n\times 2d}中抽取不同类型的节点表示:

 

并利用max pooling 层得到问题的表示

3.Graph Reasoning

所有图节点的上下文信息被传递到更高一层的特征。

令H=\{q,P,S,E\}\in\mathbb{R}^{g\times d},其中P，S，E分别表示段落节点，句子节点，实体节点的向量表示、

利用图注意力网络执行分层图中节点信息的传播：

H'为更新后的节点信息H'=\{h'_0,h'_1,\cdots,h'_g\}=\{q',P',S',E'\}

Gated Attention
将上下文表示M和更新后的图节点表示H'进行融合（基于gated attention 机制），以实现答案的预测：

其中，G\in\mathbb{R}^{n\times 4d}为融合后的表示，随后被用于答案预测。

4.Multi-task Prediction

三个子任务：段落选择，支撑证据预测和答案预测 通过多任务学习执行，最终的目标函数为：

  • 段落选择和支撑证据预测：利用双层的MLP，执行多分类

其中O_{sent}\in\mathbb{R}^{n_s},O_{para}\in\mathbb{R}^{n_p}

  • 实体预测：将实体预测看作一个多分类问题，如果最终的答案不存在于任何实体中，则实体损失为0.

实体损失起到的是正则化的作用，最终的答案预测从是文本中提取的。

  • 答案预测：

  • 答案类型预测：

其中G[0]为G的第一个隐藏层表示

 

实验：

模型容易出现的错误：

  1. 离散推理无法完成【设计离散推理的模块】
  2. 需要借助常识或者外部知识来回答
  3. 发现正确的support facts，但是预测出了错误的答案
  4. 多种可替换的答案
IDEA

优点：在图中构建不同等级的节点。

缺点：图边节点的构建太琐碎了，可能会引入噪音；

本文更倾向于动态图的构建。

 


 

记忆力退化的玲玲酱
关注
  • 0
    点赞
  • 踩
  • 4
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
【EMNLP20 论文笔记】HGN：基于分层图网络的多跳阅读理解模型
HicSuntLeones
03-30 1032
Yuwei Fang, Siqi Sun, Zhe Gan, Rohit Pillai, Shuohang Wang, Jingjing Liu Microsoft Dynamics 365 AI Research; Hierarchical Graph Network for Multi-hop Question Answering 原文：https://arxiv.org/pdf/1911.03631.pdf 源码：https://github.com/yuwfan/HGN （official **.
Multi-label-classification:多标签分类
03-06
多标签分类的种类对于张量流2/01〜3/01 Dacon Mnist多标签分类3/01〜使用Pos对单词顺序进行分类3070 rtx tensorflow版本和cuda版本CUDA 11.0 库德11.0 tf-nightly == 2.5.0.dev20201212 它对我有用开发设置视窗：
【论文阅读】Hierarchical Graph Network for Multi-hop Question Answering
没有胡子的猫Asimov
07-09 917
Hierarchical Graph Network for Multi-hop Question Answering 论文：https://arxiv.org/abs/1911.03631 代码：https://github.com/yuwfan/HGN 任务 ​ 提出了用于多跳问题回答的 Hierarchical Graph Network（HGN）。为了将分散在多个段落的文本中的线索汇总起来，通过构建不同粒度级别的节点（问题、段落、句子和实体）来创建一个层次图。将异质节点被编织成一个完整的图，不
图分类之Hierarchical Graph Differentiable Pooling （下）
最新发布
chumingqian的博客
05-30 812
是为图结构数据设计的神经网络模型。它通过结合分层池机制扩展了传统图卷积网络（GCN）的功能。这种池化机制通过逐步减少节点数量，同时保留图的整体结构，帮助网络处理大型且复杂的图。通过引入软池机制来增强 GCN，该机制允许在大型复杂图中进行分层表示学习。它结合了多层图卷积和池化来创建输入图的鲁棒、多尺度表示，使其适用于各种图分类和预测任务。链接预测正则化进一步增强了其在池化过程中保持图的结构完整性的能力。该模型从传统的 GCN 层开始，将图卷积应用于输入节点特征。
Hierarchical Graph Network for Multi-hop Question Answering 论文笔记
qq_42791848的博客
02-20 1999
Hierarchical Graph Network for Multi-hop Question Answering 论文笔记 2020 EMNLP，Microsoft 365， 这篇文章所提出的层级图模型是在leaderboard上排名比较高的一个模型。 Overview 这篇文章同样是引入图表示学习来做多跳推理，但是本文在建图上做了改进和创新，提出Hierarchical Graph。作者认为之前基于图表示学习的方法有两个不足：一是图只被用来预测答案，没有充分地去寻找supporting fact；二
【每日一读】EMNLP2020:面向多跳问答的分层图网络
carrie_0307的博客
01-07 287
Paper: (EMNLP2020)Hierarchical Graph Network for Multi-hop Question Answering Link: https://www.aclweb.org/anthology/2020.emnlp-main.710/ Code: https://github.com/yuwfan/HGN 这是一篇关于多跳问答(multi-hop QA)任务的论文，不同于单跳QA，multi-hop QA任务下问题的答案需要对多个段落或篇章进行多跳推理。 然而，.
【论文阅读】Multi-hop Question Answering via Reasoning Chains
没有胡子的猫Asimov
07-10 633
Multi-hop Question Answering via Reasoning Chains 论文：2019-Multi-hop Question Answering via Reasoning Chains 基于推理链的多跳问题回答 任务 ​ 本文提出了一种在文本中提取离散推理链的方法，模型不依赖于gold annotated chains or “supporting facts，使用基于命名实体识别和共指消解的启发式算法得到的pseudogold reasoning chains。 推
CluterNet: Deep Hierarchical Cluster Network with Rigorously Rotation-Invariant Representation for Point Cloud Analysis
02-08
CluterNet: Deep Hierarchical Cluster Network with Rigorously Rotation-Invariant Representation for Point Cloud Analysis
Hierarchical Deep Click Feature Prediction for Fine-grained Image Recognition
02-11
Hierarchical Deep Click Feature Prediction for Fine-grained Image Recognition
Providing hierarchical lookup service for P2P-VoD systems
02-06
Providing hierarchical lookup service for P2P-VoD systems
Hierarchical sparse representation based Multi-Instance Semi-Supervised Learning with application to image categorization
02-21
Hierarchical sparse representation based Multi-Instance Semi-Supervised Learning with application to image categorization
Multi-Hop Paragraph Retrieval for Open-Domain Question Answering
Forlogenの解忧杂货铺
12-25 954
ACL 2019 Multi-Hop Paragraph Retrieval for Open-Domain Question Answering github Question Answering问题粗略的可以分为两类： Reading Comprehension，RC：模型需要根据给定的问题和对应的输入文档找出答案所在，而且根据问题所对应文档的数目可分为sigle-hop reasoning...
Improving Multi-hop Question Answering over Knowledge Graphs usingKnowledge Base Embeddings
ZCS的博客
03-04 1904
知识图谱嵌入在多跳KGQA上的应用
【每日一读】EMNLP2020: 面向多跳问答的分层图网络
zenRRan的博客
01-09 290
来自：深度学习的知识小屋Paper:Hierarchical Graph Network for Multi-hop Question AnsweringLink:https://ww...
Hierarchical graph representation learning with differentiable pooling
qq_41818256的博客
01-16 635
该篇文章主要是通过图坍缩机制来分层学习图的结构特征。GCN能够通过层次结构来学习节点的分层表示，但是其无法学习到图的分层表示。对于图级分类任务而言，图的分层表示有利于更进一步地得到图的精简表示。该篇论文通过簇分配矩阵来对图中的节点进行软分配。与硬分配不同，它不是直接将某一个节点划分到某一个簇中，而是同一个概率分布向量来分配该节点对于各个指定的簇的贡献度。所有节点的概率分布向量就组成了簇分配矩阵S。通过簇分配矩阵S，我们就能够得到簇的特征表示以及簇与簇之间的连接强度。转换公式如下所示： 簇分配矩阵可以通过另
Hierarchical Graph Representation Learning with Differentiable Pooling（2018 NeurIPS）
weixin_43856668的博客
11-22 283
最近，图神经网络（GNN）通过有效学习节点嵌入彻底改变了图表示学习领域，并在节点分类和链接预测等任务中取得了最先进的结果。然而，当前的GNN方法本质上是扁平化的，不能学习图的层次表示——这一限制对于图分类任务来说尤其成问题，因为图分类的目标是预测与整个图相关联的标签。在这里，我们提出了DIFFPOOL，这是一个可微分的图池模块，可以生成图的层次表示，并可以与各种图神经网络结构在端到端方式的组合。
论文笔记--Hierarchical Graph Convolution Networks for Traffic Forecasting
chenxino的博客
10-03 1026
Hierarchical Graph Convolution Networks for Traffic Forecasting (AAAI 21) Summary 作者提出了一种新的层次图卷积网络(HGCN)，通过操作微观和宏观交通图进行交通预测。 Problem Definition 目前基于GCN的交通预测方法都忽略了交通系统的自然层次结构，既包括道路网络的基本微观层，也包括路网的宏观层，区域或社区的特征和信息在传统的交通规划或宏观特征分析转化理论中发挥着重要作用。 问题定义 与一般的交通预测问题相同
Towards Sparse Hierarchical Graph Classifiers
weixin_40248634的博客
12-10 689
sparse HIerarchical动机：模型卷积层池化层Redout layer实验 预备知识： 在 numpy中，矩阵的元素操作对矩阵维度的要求，通过一种叫做 broadcasting的机制实现。我们称两个矩阵相容(compatible)，如果它们相互对应的维度（行对行，列对列）满足以下条件: 对应的维度均相等, 或 有一个维度的大小是1 矩阵的Hadamard 乘积是一个元素运算，...
阅读Hierarchical Graph Representation Learning with Differentiable Pooling(NeurIPS 2018)
qq_33331451的博客
05-05 545
  最近关注graph pooling，Hierarchical Graph Representation Learning with Differentiable Pooling(NeurIPS 2018)，分层可微pooling图表示学习方法。 文章目录Abstract1 Introduction2 Related Work3 Proposed Method3.1 Preliminaries...
hivt: hierarchical vector transformer for multi-agent motion prediction
12-11
HIVT（Hierarchical Vector Transformer for Multi-Agent Motion Prediction）是一种用于多智能体运动预测的分层向量变换器。该模型使用了向量变换器（Vector Transformer）的层级架构，用于对多智能体的运动轨迹进行预测。 HIVT模型旨在解决多智能体之间相互影响和合作的问题。在多智能体系统中，智能体之间的运动和行为往往会相互影响，因此准确预测智能体的运动轨迹变得非常重要。传统的方法往往难以捕捉到智能体之间的复杂相互作用和外部环境的影响，而HIVT模型通过分层向量变换器的架构，可以更好地捕捉到多智能体系统中的相互作用。 HIVT模型首先使用一个全局的向量变换器来处理整个多智能体系统的运动轨迹，以捕捉全局的趋势和相互作用。然后，对于每个智能体，模型使用一个局部的向量变换器来预测其个体的运动轨迹，以考虑个体特定的动态特征和周围智能体的影响。 通过分层向量变换器的架构，HIVT模型能够更好地处理多智能体系统中的动态变化和相互作用，提高了运动轨迹预测的准确性。同时，该模型还可以应用于多个领域，如智能交通、无人机团队协作等。 总而言之，HIVT模型是一种基于分层向量变换器的多智能体运动预测方法，通过捕捉多智能体系统中的相互作用和全局趋势，提高了运动轨迹预测的准确性和适用性。该模型在多个领域具有广泛的应用前景。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值