对话系统论文阅读
金色麦田~
新人小白,多多关照!
展开
-
对话系统论文阅读-SOLOIST: Few-shot Task-Oriented Dialog with A Single Pre-trained Auto-regressive Model
简介 2020年六月 微软发布,还不清楚那个会议。 论文下载链接 这篇论文和上篇7月份发布那篇论文很像很像。并且SOLOIST引用了七月份这篇论文,这个有点迷。 Motivation 构建一个任务导向型的对话系统是很困难的事情,需要在该任务领域内积累大量知识,如果更换领域的话,基本得从头开始进行所有的积累工作。所以借鉴一下NLP中的预训练模型的思想,如果能够先在有大量语料的领域内训练出一个通用的模型,然后再不同的领域或者任务上进行微调,这样可以快速地在不同的领域内构件任务导向型的对话系统。 Contribu原创 2020-08-14 18:04:56 · 803 阅读 · 0 评论 -
对话系统论文阅读-A Simple Language Model for Task-Oriented Dialogue
简介 2020七月,salesforce 发布的,还不知道在哪个会议,先一睹为快吧。 论文下载链接 Motivation 传统任务导向的对话系统,单独对每个模块进行处理,即使所有模块性能都很好,但如果其中一个模块出现错误,那么错误会传播到其他的模块,影响整个对话系统的性能。 Contribution 提出了使用end2end的模型,同时对多个任务进行处理,把整个pipeline当做一个序列预测问题。整个模型是一个因果模型(单向模型)。 Method 训练过程 模型输入包括五个部分,上下文,状态值,数据库查原创 2020-08-14 17:03:26 · 985 阅读 · 0 评论