论文阅读：Generate, Delete and Rewrite: A Three-Stage Framework for ImprovingPersona Consistency of Dial

最新推荐文章于 2024-04-30 01:54:06 发布
最新推荐文章于 2024-04-30 01:54:06 发布
阅读量2.2k 收藏
点赞数
分类专栏： NLP 文章标签： transformer 自然语言处理 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_41753316/article/details/121927181
版权

2020 ACL

这篇论文提出单阶段的生成模型仍然难以避免在生成对话时生成一些不一致的词，因此作者采用三阶段来生成，先生成，再检测不一致性，最后再重写不一致的词。框架如下：

 生成阶段：输入是角色信息和问题，采用解码器和编码器的结构，均基于transformer。生成相应的回答。

删除阶段：输入是生成的回答。使用类似自注意力机制的方式检测每个词不一致的比重，然后mask掉不一致的词。在DNLI数据集上以自然语言推理的方式训练。

重写阶段：输入是删除后的回答和角色信息。然后生成最终的回答。

有一个疑问：如何保证重写阶段不会还生成不一致的词呢？

小白之比白更白
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
An Iterative Co-Saliency Framework for RGBD Images
02-08
As a newly emerging and significant topic in computer vision community, co-saliency detection aims at discovering the common salient objects in multiple related images. The existing methods often ...
对话系统有哪些最新进展？这17篇EMNLP 2021论文给你答案
Paper weekly
09-27 1213
©原创 ·作者|王馨月学校|四川大学研究方向|自然语言处理Neural Path Hunter论文标题：Neural Path Hunter: Reducing Halluc...
Generate, Delete and Rewrite: A Three-Stage Framework for Improving Persona Consistency of Dialogue
hqing159的博客
11-12 284
论文总结之对话生成篇2.0
weixin_44487404的博客
06-08 417
8.Exploiting Persona Information for Diverse Generation of Conversational Responses 本模型主要特点在于中间变量z的训练，这里涉及到的数学知识见https://zhuanlan.zhihu.com/p/26898768 其他的特点，就在于用性格编码，跟情感、关键词等思想差不多。 主要有两大步：第一步即对性格文本和上下文 （1）将每一个性格文本编码成空间向量和上下文向量做softmax得到匹配权重。 然后将性格文本再做处理和匹
【ACL2020】结果已出，录用论文抢先看！
weixin_36896856的博客
04-12 4163
点击上方“AI遇见机器学习”，选择“星标”公众号重磅干货，第一时间送达整理 | 深度学习这件小事公众号作为顶级国际会议，计算语言学协会（the Association for Comp...
ACL 2020 | 腾讯AI Lab解读三大前沿方向及入选论文
腾讯AI实验室
07-05 1363
感谢阅读腾讯AI Lab微信号第98篇文章。本文将分组介绍自然语言处理领域顶级会议 ACL 2020 中腾讯AI Lab的重点研究方向和入选论文。自然语言处理领域顶级会议 ACL 202...
doc-generate-mysql:generate doc for mysql - 数据库文档创建工具
06-28
##截图##具体用法安装composer install为这个配置一个域名修改 init.php 文件执行 xxx.xxx.xxx/init.phpxxx.xxx.xxx/sqlname.html
Floor-Ladder Framework For Human Face Beautication (Best paper)
02-07
In this paper, we propose a Floor-Ladder Framework(FLN) based on age evolution rules to generate beautified human faces. Beside the shape of faces, younger faces achieve more attractiveness. Thus we ...
Generate-testcase-for-cp:生成测试用例以解决竞争性编程问题
03-31
为cp生成测试用例 ...GenerateTestcase.py ：生成测试用例的主文件convert_and_trimming.py ：将crlf转换为lf并修剪空格，制表符，下线GenerativeFunction.py ：包括所有随机函数，以生成数字，图形，树...
Novel WDM-PON architecture for simultaneous transmission of unicast data and multicast services
02-26
For each wavelength channel in the optical line terminal (OLT), the downstream unicast data are applied to one arm of a dual-parallel Mach-Zehnder modulator (DPMZM) to generate baseband unicast non-...
角色一致性对话论文合集
小白之比白更白的博客
10-06 735
角色对话论文 包括数据集，角色对话，一致性处理等方面论文。 数据集： Zhang, Saizheng, Emily Dinan, Jack Urbanek, Arthur D. Szlam, Douwe Kiela and Jason Weston. “Personalizing Dialogue Agents: I have a dog, do you have pets too?” ACL (2018). Mazaré, Pierre-Emmanuel, Samuel Humeau, Martin R
原创 | 一文看尽2020上半年阿里、腾讯、百度入选AI顶会论文（附地址）
数据派THU
06-03 1937
2020年已过近半，人工智能学术界的顶级会议也举行了不少。在今年已经举行的顶会中，腾讯、百度、阿里等国内科技巨头被收录论文在数量和质量上均有所突破，涉及机器学习、自然语言处理、计算机视觉...
文本情感转换《Delete, Retrieve, Generate: A Simple Approach to Sentiment and Style Transfer》
u014475479的博客
08-22 1749
原文链接 本文发表于自然语言处理领域顶级会议 NAACL 2018 摘要 本文认为文本情感转换任务可以定义为：只将句子的情感改变，而不改变与情感无关的部分，比如“这件衣服的尺码很合适”改为“这件衣服的尺码太小啦”，仅仅将“很合适”改为“太小啦”，因为这两个词是影响到句子的“情感”的，其它部分则是无关紧要的存在。本文的训练集是一些被标注了所属情感（positive或negati...
Low-Resource Knowledge-Grounded Dialogue Generation_biji
wang2008start的专栏
12-31 572
将 transformer 的 encoder-decoder 改为 两个encoder+一个decoder，具体为dialog encoder和knowledge encoder，相加, 通过controller 来学习knowledge部分和 dialog 部分的权重。 整体学习过程分为三阶段，第一阶段将两个 encoder 分别单独学习，第二阶段通过远程监督构造数据集，将两个 encoder 联合学习。通过检索和 dialogue 最相似的 document 构造弱监督伪知识数据集。 ..
论文阅读——A Three-Stage Deep Learning Model for Accurate Retinal Vessel Segmentation
qq_37151108的博客
02-22 973
论文阅读之A Three-Stage Deep Learning Model for Accurate Retinal Vessel Segmentation 用于精细视网膜血管分割的三级模型 A Three-Stage Deep Learning Model for Accurate Retinal Vessel Segmentation 上一篇论文（Joint Loss）作者的另一篇工作,还是...
开放域对话系统的属性一致性识别
AITIME_HY的博客
04-25 582
论文名称：Profile Consistency Identification for Open-domain Dialogue Agents论文作者：宋皓宇，王琰，张伟男，赵正宇，刘挺，刘晓...
EMNLP2021文章选读：对话系统方面 chatbot/dialogue system
xuyifancsdn的博客
12-08 1002
A Role-Selected Sharing Network for Joint Machine-Human Chatting Handoff and Service Satisfaction Analysis （Liu2021） Abstract： Chatbot is increasingly thriving in different domains, however, because of unexpected discourse complexity and training data spar
视觉语言模型详解
最新发布
2401_84038983的博客
04-30 919
视觉语言模型是可以同时从图像和文本中学习的多模态模型，其属于生成模型，输入为图像和文本，输出为文本。大视觉语言模型具有良好的零样本能力，泛化能力良好，并且可以处理包括文档、网页等在内的多种类型的图像。其拥有广泛的应用，包括基于图像的聊天、根据指令的图像识别、视觉问答、文档理解、图像描述等。一些视觉语言模型还可以捕获图像中的空间信息，当提示要求其检测或分割特定目标时，这些模型可以输出边界框或分割掩模，有些模型还可以定位不同的目标或回答其相对或绝对位置相关的问题。
大语言模型在专业领域的应用——教育场景下的大语言模型
weixin_43915730的博客
04-28 1161
教育是人类社会进步的基石，对个人和社会发展都至关重要。在教育系统中，大语言模型已经被用于多种教育相关任务，有助于增强教育场景的智能化、自动化和个性化。
TypeError: unsupported operand type(s) for -: generator and str
05-16
这个错误通常是由于对一个生成器对象和一个字符串对象进行减法操作导致的。在 Python 中，生成器对象不能像数字或字符串那样进行算术运算。要解决这个问题，需要检查代码并确保在进行减法操作时，操作的对象是数字或字符串而不是生成器对象。 以下是一些可能导致此错误的示例代码： ``` gen = (i for i in range(10)) result = gen - "string" # 不能将生成器对象和字符串对象相减 # 另一个示例 def generate_numbers(): for i in range(10): yield i numbers = generate_numbers() result = numbers - "string" # 不能将生成器对象和字符串对象相减 ``` 要解决此问题，可以将生成器对象转换为列表或其他可迭代对象，然后再进行减法操作。例如： ``` gen = (i for i in range(10)) lst = list(gen) # 将生成器对象转换为列表 result = lst - "string" # 不能将列表对象和字符串对象相减 ``` 或者，您可以确保在进行减法操作时操作的对象是数字或字符串。例如： ``` gen = (i for i in range(10)) result = "string" - 5 # 不能将字符串对象和数字对象相减 ```

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值