QA论文解读2

该论文提出了一种基于知识增强的层次注意力模型,用于社区问答(CQA)。通过单词、短语和文档级别的注意力机制,有效利用知识库信息。此外,还设计了一个多任务学习框架,结合CQA主任务和问题分类辅助任务,以提高模型性能和稳定性。模型包括知识增强表示模块、交互式问题/答案表示模块、问题分类、社区问答模块和多任务学习模块。
摘要由CSDN通过智能技术生成

论文题目:《Knowledge-enhanced Hierarchical Attention for Community Question Answering with Multi-task and Adaptive Learning》
来源:IJCAI 2019
链接:https://www.ijcai.org/proceedings/2019/0743.pdf

MOTIVATION

  • 来自KBs的外部知识很有用,但是在最近的基于深度学习的CQA系统中却没有得到充分的利用。
  • 大多数现有的方法在学习文档表示时都没有利用语义的组合性。
  • 如果CQA系统不能识别输入问题的类别,那么文档编码人员可能会丢失问题中关键的和有区别的特性。
  • 现有的深度神经网络最具挑战性的问题之一是其性能可能不稳定,无法有效地处理CQA中相当不平衡且噪声较大的数据。

CONTRIBUTIONS

  • 作者提出了一种基于知识增强的层次注意机制,从不同粒度的文本文档和知识库中充分挖掘知识。特别地,作者设计了一个三级注意机制,包括单词级注意、短语级注意、文档级的关注。(解决motivation2)
  • 提出了一个多任务学习框架,其中知识增强表示学习由两个耦合任务同时优化:CQA(主任务)和问题分类(辅助任务)。多任务学习的主要目的是提高定位突出信息的质量。(解决motivation3)
  • 对于CQA任务,我们构造多个分类器,并将它们的结果集成为最终的预测结果,期望能够更有效、更鲁棒地解决CQA任务。(解决motivation4)

MODEL

模型包括五个

评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值