该论文提出了一种基于知识增强的层次注意力模型，用于社区问答(CQA)。通过单词、短语和文档级别的注意力机制，有效利用知识库信息。此外，还设计了一个多任务学习框架，结合CQA主任务和问题分类辅助任务，以提高模型性能和稳定性。模型包括知识增强表示模块、交互式问题/答案表示模块、问题分类、社区问答模块和多任务学习模块。
论文题目：《Knowledge-enhanced Hierarchical Attention for Community Question Answering with Multi-task and Adaptive Learning》
来源：IJCAI 2019
链接：https://www.ijcai.org/proceedings/2019/0743.pdf
MOTIVATION
- 来自KBs的外部知识很有用，但是在最近的基于深度学习的CQA系统中却没有得到充分的利用。
- 大多数现有的方法在学习文档表示时都没有利用语义的组合性。
- 如果CQA系统不能识别输入问题的类别，那么文档编码人员可能会丢失问题中关键的和有区别的特性。
- 现有的深度神经网络最具挑战性的问题之一是其性能可能不稳定，无法有效地处理CQA中相当不平衡且噪声较大的数据。
CONTRIBUTIONS
- 作者提出了一种基于知识增强的层次注意机制，从不同粒度的文本文档和知识库中充分挖掘知识。特别地，作者设计了一个三级注意机制，包括单词级注意、短语级注意、文档级的关注。（解决motivation2）
- 提出了一个多任务学习框架，其中知识增强表示学习由两个耦合任务同时优化:CQA(主任务)和问题分类(辅助任务)。多任务学习的主要目的是提高定位突出信息的质量。（解决motivation3）
- 对于CQA任务，我们构造多个分类器，并将它们的结果集成为最终的预测结果，期望能够更有效、更鲁棒地解决CQA任务。（解决motivation4）
MODEL
模型包括五个
最低0.47元/天 解锁文章
扫一扫
585
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
