论文总结之对话检索篇

最新推荐文章于 2024-01-21 03:36:57 发布
最新推荐文章于 2024-01-21 03:36:57 发布
阅读量661 收藏
点赞数
文章标签： 自然语言处理 深度学习 神经网络 pytorch
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44487404/article/details/105602728
版权
本文介绍了几篇关于基于检索的问答的论文，涉及自我注意力、多轮对话建模、深度注意力匹配网络等技术。重点讨论了如何在对话中运用self-attention、GRU、CNN和交互式网络进行上下文理解与响应选择。
摘要由CSDN通过智能技术生成

萌新小白，疫情期间对所读论文的一点小总结

基于检索的问答论文总结

1.ReCoSa: Detecting the Relevant Contexts with Self-Attention for
Multi-turn Dialogue Generation
在这里插入图片描述
在这里插入图片描述

（1）所有context做一次自我注意力
（2）本次response做一次自我注意力
（3）context representation做K和V，response representation做Query再做一次自我注意力。
PS：对字级别编码用lstm，并加上了位置做输入

——————————————END1———————————————

2.Modeling Multi-turn Conversation with Deep Utterance Aggregation
在这里插入图片描述
（1）将所有utterance和response进行GRU编码
（2）将最后的utterance分别和历史的每个utterance和当

最低0.47元/天 解锁文章
曾阿牛nlper
关注
对话机器人-检索与生成模型
yiyele的博客
12-17 3万+
综述 从应用的角度来说，对话机器人可以分为三个类别，分别是闲聊机器人，qa机器人以及任务型机器人。本系列主要介绍闲聊机器人。由于本文的内容主要是对对话机器人做一个简单的介绍，所以都是一些简单的介绍，详细的内容后面后有介绍。 一 QA机器人 问答机器人主要功能是在知识库找到用户提问的问题的答案。主要用于智能客服等。一般来说问答机器人是不涉及多轮，主要是针对某一个领域的问答。构建一个问答...
请查收！顶会AAAI 2020录用论文之自然语言处理篇
热门推荐
语言智能技术笔记簿
02-23 1万+
2020年人工智能顶级会议AAAI录用的自然语言处理领域的研究论文已为您准备就绪，请查收！
NLP学习—16.对话系统及信息检索技术
柳杰的博客
08-30 1737
文章目录一、对话系统概述二、对话系统的分类及其对应得解决方案三、检索及倒排索引四、召回及重排五、倒排索引的空间优化方法—Variable Byte Compression六、倒排索引搜索算法—Weak and（WAND）七、检索系统的评价指标 一、对话系统概述   对话系统在电商、银行等业务场景中应用很广。从框架方面，对话系统可以分为问答系统与多轮对话系统。 二、对话系统的分类及其对应得解决方案   对话系统的分类如下： 闲聊式对话系统 目前，市面上闲聊机器人的解决方案baseline是基于seq2s
对话系统的文本检索：实现高效准确的文本检索功能
最新发布
AI天才研究院
01-21 987
1.背景介绍 在对话系统中，文本检索是一个关键的功能，它可以帮助系统回答用户的问题，提供相关信息和建议。在本文中，我们将讨论如何实现高效准确的文本检索功能。 1. 背景介绍 对话系统的文本检索功能可以分为两个部分：一是查询处理，二是文本检索。查询处理是将用户的自然语言问题转换为机器可理解的形式，而文本检索则是根据查询结果找到与问题相关的文本信息。 在实现文本检索功能时，我们需要考虑以下几个...
NLP.TM[38] | 对话系统经典：检索式对话
baidu_25854831的博客
09-06 1477
【NLP.TM】本人有关自然语言处理和文本挖掘方面的学习和笔记，欢迎大家关注。往期回顾NLP.TM[32] | 浅谈文本增强技术NLP.TM[33] | 纠错：pycorrector的...
检索式对话学习笔记
IOT_victor的博客
10-22 1283
1、文本相似度 编辑距离https://blog.csdn.net/wxgxgp/article/details/104184418 import Levenshteinhttps://blog.csdn.net/IOT_victor/article/details/106670275 simhashhttps://blog.csdn.net/wxgxgp/article/details/104106867 余弦相似度https://blog.csdn.net/wxgxgp/articl...
论文总结之对话生成篇
weixin_44487404的博客
04-21 1000
基于生成： 1.A Working Memory Model for Task-oriented Dialog Response Generation 没看太懂，主要领会下思想，细节并没有细讲，作者说在补充文档里。 （1）将对话历史信息用类似transformer的方法编码。得到Ok （2）E-MemNN：对话历史写进来（具体咋写也没说） （3）S-MemNN：将知识库的三元组写进 （4）开始解...
论文总结之任务型对话NLU
weixin_44487404的博客
05-13 995
论文总结之任务型对话NLU 最近学习了关于任务型对话NLU的一些论文。大致总结了近些年比较经典的学术界的NLU模型。虽然有些方法现在来看比较常见了，但是思想依旧可以有参考价值。像seq2seq、attention、gate机制对于NLU步骤的优化。 预训练模型Bert、GPT2的提出以及改进刷榜了各项自然语言处理任务。所以贴上了一篇bert做nlu的baseline文章。另外实验室同门最新研究成果基于bert的改进达到了Sota，还未发表就不贴啦。 最后一篇也是实验室师兄关于融入上下文和知识的NLU文章 【
论文总结之对话生成《Improving Knowledge-aware Dialogue Generation via Knowledge Base Question Answering》
weixin_44487404的博客
07-18 800
11.Improving Knowledge-aware Dialogue Generation via Knowledge Base Question Answering 本篇论文是ACL最新的2019年底完成的一篇论文，主要在融入知识的情况下增加了回复多样性。 主要创新点有三个： 1）MLP训练后迁移学习 2）利用检索对话的方式增强生成式回复多样性 3）两步解码 现在具体分析下模型： （1）Knowledge-aware Dialogue Encoder post逐字经过GRU得到隐藏层向量 再通过预
必读论文|信息检索与推荐必读论文10篇
Arnetminer的博客
05-02 1751
AMiner研究团队开发出一款利用人工智能（AI）技术、帮助科研工作者阅读论文的智能论文搜索工具。该工具可以展示出该领域的必读论文，并且对所选论文进行“智能”阅读，反馈给你该论文的综述、研究方法及主要结论，即帮你快速阅读文献，大大地节省了时间和精力。 信息检索与推荐Topic必读论文 信息检索（Information Retrieval，IR）是指信息的表示、存储、组织和访问。信息推荐（Inf...
问答系统的文段检索
qq_47537678的博客
03-20 1547
开放领域问答的一个重要方法：检索器 + 阅读器模型。其中，检索器负责从海量文档中检索相关段落。 本文主要介绍关于检索器的内容 Open-domain 的 Question Answering (QA) 一般需要先从大量的文档库中检索出一些和问题相关的文档（retrive），相关的方法有 TF-IDF 和 BM25。 文章目录前言TF-IDF 和 BM25实现的目标效果当前思路具体实现当前问题预期效果 前言 例如：随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了
基于问答对的问答系统方案设计
鲁班七号
11-30 3934
基于问答对的问答系统方案设计1. 前言2. 方案2.1 召回2.1.1 关键词匹配2.1.2 问题分类2.1.3 相似度计算2.2 粗排2.3 细排 1. 前言   基于问答对的问答系统的核心是当用户输入一个问题的时候，首先要找到跟这个问题最相近的已经存储在库里的问题，然后直接返回相应的答案即可。其本质是一种基于检索的问答，与常规的关键词检索最大区别在于：问答对的问答是从语义角度从数据库中检索答案，而关键词检索仅仅是从关键词的角度进行检索。   假设我们的库里面已有存在以下几个<问题,答案>：
简单的检索式问答系统
Class_guy的博客
01-15 7329
这是我之前做的一个小项目，趁现在有时间就把它拿出来记录一下。 通过此项目，能够掌握以下几个知识点： 字符串操作 2. 文本预处理技术（词过滤，标准化） 3. 文本的表示（tf-idf, word2vec) 4. 文本相似度计算 5. 文本高效检索 简单的检索式的问答系统 问答系统所需要的数据已经提供，对于每一个问题都可以找得到相应的答案，所以可以理解为每一个样本数据是 &lt;问题、答案&g...
【对话】对话系统经典：检索式对话
zenRRan的博客
09-14 984
来自：CS的陋室对话系统可以说是NLP领域目前已知最扎实的落地场景了，整个流程都脱离不了NLP的核心作用，而且整个流程涉及NLP的大量任务，因此大量的研究都围绕着对话系统来开展，也因此...
对话系统（任务型、检索式、生成式对话论文与工具串讲）
夕小瑶科技说
09-27 4072
Motivation 对话是一个很大的概念，有非常非常多的子问题，刚入坑的小伙伴很可能迷失在对话的一小块区域里无法自拔，本文就是为解决这一类问题的。希望读者在看完本文后，可以理清楚对话的每个概念为什么而存在，以及它在整个对话王国中的位置。 不过，小夕也未能关注到对话领域的每个角落，一些小topic也属于仅听过但是没有深入研究过的状态，因此本文表述有失偏颇的地方还望大...
面向具体任务的检索式问答
weixin_39508304的博客
05-22 1905
面向具体任务的检索式问答对于面向具体任务的问答系统,目前市面上的系统维护成本较高,大部分由手写规则构成,扩展能力较差,少部分较为先进的系统采用了检索式方案,其本质是对用户问题进行分类再针对性回答,因此其核心算法是基于问句语义相似度的计算,这些方法大多使用数据驱动的方式代替传统的特征工程与手写模板。对于面向具体任务的问答系统,其设计的核心目标是专注做好一件事情,因此需要保证答句语法正确、内容准确。大...
检索式多轮对话系统论文：Multi-Turn Response Selection for Chatbots with Deep Attention Matching Network 阅读笔记
zhucuankuan2669的博客
10-10 4353
此篇文献是百度发表于ACL2018 对话系统中，由于在context和response中有两种匹配对：（1）表面文本相关（2）潜在依赖，即在语义和功能上相关。之前论文多关注表面相关，对潜在依赖关注较少，所以本文努力解决这个问题。且对话系统中多采用RNN结构，但用RNN捕捉多粒度的语义表示花费代价较大，所以文本全部采用基于注意力机制的结构。 模型结构如上图所示。看起来很复杂，拆开来一点点看。...
论文阅读笔记：Multi-Turn Response Selection for Chatbots with Deep Attention Matching Network
BoCong-Deng的博客
11-23 1915
本文在一个统一的神经网络中介绍了这两种注意力，网络命名为Deep Attention Matching Network（DAM），用于多回合响应选择。在实践中，DAM将上下文或响应中的语句的每个词作为抽象语义段的中心含义，并通过堆叠式的自注意力丰富其表示，从而逐渐围绕中心词生成越来越复杂的段表示 。考虑到文本相关性和依存性信息，上下文和响应中的每个语句都基于不同粒度的句段对进行匹配。这样，DAM通常会捕获上下文之间的匹配信息以及从单词级到句子级的响应，然后使用卷积和最大池化操作提取重要的匹配特征，最后通过单
小哥哥，检索式chatbot了解一下？
胭脂草的ABC博客
04-10 988
小哥哥，检索式chatbot了解一下？ 夕小瑶 ​ 机器学习话题的优秀回答者 215 人赞同了该文章 喵喵喵，一不小心又匿了三个月，突然诈尸害不害怕(￣∇￣) 小夕从7月份开始收到第一场面试邀请，到9月初基本结束了校招（面够了面够了T_T），深深的意识到今年的对话系统/chatbot方向是真的超级火呀。从微软主打情感计算的小冰，到百度主打智能家庭（与车联网？）的DuerOS和UN...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值
>