本文提出了一种历史自适应知识融合机制，用于多轮对话系统，解决内容重复问题。模型包括编码器层、历史适应层和输出层，通过动态更新知识并融入历史，保持对话一致性和避免重复。实验结果表明，模型在Persona-Chat和CMUDoG数据集上显著优于基线，尤其在减少重复性方面表现优秀。
论文笔记整理：潘锐，天津大学硕士。
链接：https://www.aaai.org/ojs/index.php/AAAI/article/view/6425
来 源：AAAI 2020
论文简介
保持对话的一致性和避免内容重复是构建以知识为基础的多轮对话系统的两个关键因素。尽管一些工作倾向于将对话历史与外部知识（如个人背景信息）结合起来以提高对话质量，但它们往往忽略了将相同的知识多次融入对话会导致内容重复。这一现象的主要原因是缺乏对对话层面知识使用的有效控制。为此，本文设计了一种历史自适应知识融合机制，构建了一种有效的多轮对话模型，通过反复更新知识并逐步将其融入历史，来解决内容重复问题。
方法及模型
1、模型概述
模型由三部分组成：编码器层、历史适应层和输出层。
首先，编码器层使用Bi-GRU分别捕获外部知识、历史信息和候选答案的上下文信息。之后利用self-attention机制识别重要信息，忽略无关信息。在历史适应层中，反复更新外部知识，并逐步将其融入历史。这不仅有助于历史捕获知识，而且可以动态更新基于历史的知识。然后利用层次递归网络提取序列信息和上下文信
最低0.47元/天 解锁文章
扫一扫
1828
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
