lijiwei2-A Persona-Based Neural Conversation Model

最新推荐文章于 2021-01-05 09:55:42 发布
最新推荐文章于 2021-01-05 09:55:42 发布
阅读量380 收藏 1
点赞数
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/yagreenhand/article/details/86499596
版权
使用person embeddingembedding 的作用蕴含背景和说话方式，解决了多轮对话中response不一致的问题。（换一种方式问问题，得到的答案不同）。embedding的实现具体的人物做背景标注昂贵，根据对话的回答聚类产生。在target的E表示中加入speaker representation。每个source用户绑定一个向量vi，在decode的时候和h_t,e...
摘要由CSDN通过智能技术生成

使用person embedding

embedding 的作用

蕴含背景和说话方式，解决了多轮对话中response不一致的问题。（换一种方式问问题，得到的答案不同）。
在这里插入图片描述

embedding的实现

  • 具体的人物做背景标注昂贵，根据对话的回答聚类产生。
    在这里插入图片描述
  • 在target的E表示中加入speaker representation。每个source用户绑定一个向量vi，在decode的时候和h_t,e_t（cell state应该）一起作为输入。
  • 在这里插入图片描述
    在这里插入图片描述
  • 训练的判断方式，
    • BELU， perplexity，
  • test的时候，i和j没有Wi和Wj，使用临近的i‘和j’来
最低0.47元/天 解锁文章
zixufang
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
A Diversity-Promoting Objective Function for Neural Conversation Models论文阅读笔记
呜呜哈的博客
01-23 2159
本文是李纪为的论文“A Diversity-Promoting Objective Function for Neural Conversation Models”阅读笔记。违章提出使用MMI代替原始的maximum likelihood作为目标函数，目的是使用互信息减小“I don’t Know”这类无聊响应的生成概率。一般的seq2seq模型，倾向于生成安全、普适的响应，因为这种响应更符合语法
[NLP论文阅读]A Neural Knowledge Language Model（一）
jx00109的博客
04-27 1645
通过将语言模型与知识图谱相结合在一定程度上解决了unknown word的问题。
A Persona-Based Neural Conversation Model论文
chaojianmo的博客
10-11 335
问题：同样的问题，不同的表述，生成的回复就不一致。 解决方法：在seq2seq的的decoder 加入了用户向量，类似词向量，利用用户帐号信息，如性别，方言等训练而成。 实验数据是Twtter的数据，所以会有这些用户数据。 Speaker Model 选取LSTM为Seq2Seq模型的基本单元，LSTM主要的公式如下： 作者给增加了一个向量，可以看做是把变成了,如下所示： ...
A Persona-Based Neural Conversation Model论文学习零散记录
myofficials的博客
03-11 1289
A Persona-Based Neural Conversation Model这篇文章用来解决conversation model中的speaker consistency的问题。比方说，问chatbot“where does jone live?”& “where does sam live?”chatbot可能因为u.s.出现频率最高，而对所有这类问题的回答都是U.S. 而不去考虑人物的身份
[dialog system]阅读笔记 - 2016__A Persona-Based Neural Conversation Model
haofengrushi的博客
12-21 1240
Ref A Persona-Based Neural Conversation Model,Jiwei Li, Michel Galley, Chris Brockett, Georgios P. Spithourakis, Jianfeng Gao, Bill Dolan, 2016. Introduction 多轮对话 在会话系统中加入对用户的建模，提高会话者一致性以及减少万能回复。 两种模型。
A Knowledge-Grounded Neural Conversation Model
liuyuemaicha的专栏
02-13 2168
原文：https://arxiv.org/pdf/1702.01932.pdf 原论文的主要内容翻译与总结摘要Neural network 模型已经可以进行很自然的对话交互了。但目前来看，这些模型在基于任务的对话中并没有通过吸取其他形式的真实信息或背景实体（entity-grounded）观点来增强它们的服务水平。该论文就提出来一种新颖的，完全有数据驱动的，并且基于背景知识（knowledge-g
对话系统论文集(17)-jiweiGAN闲聊型
fangting的博客
03-15 210
GAN： 通过提问学习：： 问题：直接提出新模型，通过问问题来get到user的真实意思 创新点： 对数据集做了改动，包含三种情况： 1）user的发音不标准，比如说，staaar（正确应该是star）。agent问what do you mean， 2）KB中实体缺失(这一块儿我不想研究)，设计agent直接说不知道然后user告诉答案，然后a...
语言模型常用评价方法：perplexity、bleu
热门推荐
满腹的小不甘
12-10 1万+
1. perplexity（困惑度、复杂度） 语言模型效果好坏的常用评价指标是perplexity，简单说，perplexity值刻画的是语言模型预测一个语言样本的能力。在一个测试集上得到的perplexity值越低，说明建模效果越好。计算公式如下： 其中，为word数量 在语言模型的训练中，通常使用perplexity的对数形式：将每个位置上的概率取对数再平均 对数使用加法的形式，可以加速...
对话系统综述
Irving_zhang的专栏
12-21 1万+
在人工智能领域，模仿人类交谈能力的尝试可以追溯到人工智能的早期阶段。在1950年，艾伦·图灵（Alan Turing）提出了一种方法来测试一台机器的智能水平，这个机器被普遍称为图灵测试或模仿游戏。在图灵测试中，一台机器被要求与人交谈。机器的智能水平取决于机器如何能够欺骗人类评估者，使其相信机器是基于文本响应的人类。如果人类的评估者无法区分机器和人类的区别，那么就说机器已经通过了图灵测试，这意味着人工
用深度学习网络搭建一个聊天机器人(一)
jiangjingxuan的博客
01-25 7828
聊天机器人（Chatbot），又被称为对话代理（Conversational Agents）或对话系统（Dialog Systems），是当前的一个研究热点。Microsoft在聊天机器人领域下了巨大赌注，其他的公司，例如Facebook（M）、Apple（Siri）、Google、WeChat和Slack也不甘落后，推出了相关的产品。这股聊天机器人的新浪潮，也在一些创业公司兴起了：试图改变用户和
李纪为:用于对话生成的深度强化学习
木东的博客
05-09 1138
译者按：本文第一作者 Jiwei Li (李纪为) 是斯坦福的 Ph.D ，是一位在神经网络和 NLP 领域非常高产的作者。在之前发布的自然语言处理 2012-2016 年顶级会议作者统计中，他以 14 篇顶级会议论文第一作者的数据排名第一。本篇文章刚刚发布，是一篇探索性的文章，文章结合了目前主流的 sequence-to-sequence 模型和强化学习算法，在之前工作的基础上，利用一种 Alp...
perplexity 衡量指标_对于机器翻译衡量指标的批判性思考
weixin_39841610的博客
01-05 307
标题：On The Evaluation of Machine Translation Systems Trained With Back-Translation摘要：Back-translation is a widely used data augmentation technique which leverages target monolingual data. However, its ...
让机器像人一样交流：斯坦福李纪为博士毕业论文
机器之心
11-15 2857
自然语言处理（NLP）是人工智能领域下的一个庞大分支，其中面临很多机遇与挑战。斯坦福大学李纪为博士在他的毕业论文《Teaching Machines to Converse》中对于 NLP 领域近期的发展进行了解读。这篇博士论文从多个方面尝试解决如今对话系统面临的诸多问题：(1) 如何产生具体、贴切、有意思的答复 (2) 如何赋予机器人格情感，从而产生具有一致性的回复 (3) 最早提出使用对抗性学
A private conversation
青青的专栏--C/C++ OOA/D Design Pattern
03-05 614
　　Lastweek, I went to the theatre. I got a very good seat. The play wasvery interesting, but I did not enjoy it. A young man and a youngwoman were sitting behind me. They were talking loudly. I could
北大学姐博士阶段收官之作ACL2020-低资源场景下的对话系统任务模型定制
AITIME_HY的博客
08-11 923
AI TIME欢迎每一位AI爱好者的加入！用最少的语料训练生成模型是构建开放域对话系统的关键挑战之一。现有的方法倾向于使用元学习框架，首先预训练所有非目标任务的参数，然后在目标任务上进行...
磁力链磁力链磁力链.txt
最新发布
07-22
磁力链
“人力资源+大数据+薪酬报告+涨薪调薪”
07-22
人力资源+大数据+薪酬报告+涨薪调薪，在学习、工作生活中，越来越多的事务都会使用到报告，通常情况下，报告的内容含量大、篇幅较长。那么什么样的薪酬报告才是有效的呢？以下是小编精心整理的调薪申请报告，欢迎大家分享。相信老板看到这样的报告，一定会考虑涨薪的哦。
安装graphviz和pygraphviz
07-22
pygraphviz 是一个Python库，它是Graphviz图形可视化软件的Python接口。Graphviz是一个开源的图形可视化软件，广泛用于创建和编辑有向图和无向图。pygraphviz使得Python开发者能够轻松地创建和操作图形，以及执行图形的布局和可视化。 一、pygraphviz的主要功能 创建和编辑图形：pygraphviz允许开发者通过Python代码来创建图形，包括添加节点、边等元素，并且可以编辑这些元素的属性，如颜色、形状、标签等。 图形布局：pygraphviz支持多种图形布局算法，如dot、neato、circo等，开发者可以根据需要选择合适的算法来优化图形的布局。 图形可视化：pygraphviz可以将创建和编辑好的图形保存为图片文件，支持多种图片格式，如PNG、JPEG等，方便开发者进行展示和分享。
BrainF**k Devlopment Toolkit
07-22
BrainF**k Devlopment Toolkit(BFDTK)，可用于开发BrainF**k程序。
KRL 语言 等待时间
07-27
pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insert_down1,239^v3^insert_chatgpt"}} ] [.reference_item] - *2* [操作系统-进程]...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值