《论文阅读》EmpTransfo: A Multi-head Transformer Architecture for Creating Empathetic Dialog Systems

已于 2023-02-11 18:25:17 修改
阅读量574 收藏
点赞数 1
分类专栏： 情感对话 文章标签： 深度学习 人工智能 情感对话系统 EmpTransfo GPT
于 2022-08-05 19:39:59 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_44833392/article/details/126157242
版权
情感对话 专栏收录该内容
72 篇文章 70 订阅 ¥29.90 ¥99.00
订阅专栏
本文提出EmpTransfo，一种基于预训练GPT的多头Transformer架构，旨在生成带有情绪的对话回复。通过结合主题、情感和动作的上下文信息，该模型在DailyDialog数据集上进行了实验，展示了在保持响应一致性和相关性的同时，增加情绪共鸣的能力。对比传统Seq2Seq模型，EmpTransfo在情感对话生成方面有所改进。
摘要由CSDN通过智能技术生成

EmpTransfo: A Multi-head Transformer Architecture for Creating Empathetic Dialog Systems

期刊：arXiv: Computation and Language 2020
论文类别：情感对话生成
对话轮次：多轮
添加信息：主题、情感、动作
数据集：DailyDialog

本文带来Rohola Zandie和Mohammad H. Mahoor共同创作的文章

论文试图解决什么问题？

  • 从生成回复的内容方面看：本文希望机器回复的内容带有共情的能力
  • 从模型方面看：本文提出的基于预训练的模型，并且建立在当时最好的对话系统上的模型
  • 从数据集方面看：本文此次在更高质量的数据集[包含：情感、主题、动作]上进行实验

汇总：提出了一种新颖的多头Transformer架构，可以使用关于情绪、话题和行动的明确上下文信息，以适当的情绪回应用户的话语，而不会牺牲响应的一致性、相关性和一致性。

这是否是一个新的问题？

否，在论文《Emotional Chatting Machine: Emotional Conversation Generation with Internal and External Memory》**[A] ** 里第一次提出生成带有情感的对话回复。

本文与其的不同之处有ÿ

了解本专栏 订阅专栏 解锁全文
【自动驾驶】《BEVFusion: Multi-Task Multi-Sensor Fusion with Unified Bird’s-Eye View Representation》论文阅读笔记
聿默的博客
09-18 2178
多传感器融合对于准确和可靠的自动驾驶系统至关重要。
《论文阅读》Think Twice: A Human-like Two-stage Conversational Agent for Emotional Response Generation
最新发布
MyHeartWillGoOn
01-26 824
对于类人对话系统，当前的情感对话方法使用统一的神经网络联合建模情感和语义。由于情感和语义之间的相互制约，该策略倾向于生成安全回复且需要大规模情感注释对话语料库。受人类智能对话中“三思而后行”行为的启发，我们提出了一种用于生成情感对话的两阶段对话代理。首先，在没有情感注释对话语料库的情况下训练的对话模型生成符合上下文语义的原型响应。其次，第一阶段原型由具有共情假设的可控情绪精炼器修改。
论文精读Multi-Party Empathetic Dialogue Generation: A New Task for Dialog Systems
weixin_45352758的博客
11-03 228
精度笔记Multi-Party Empathetic Dialogue Generation: A New Task for Dialog Systems
对话情感识别与生成 | (1) 对话情感识别与生成简述
sdu_hao的博客
06-19 7436
原文地址 文章目录1. 介绍2. 对话情感识别2.1 任务介绍2.2 数据集介绍2.3 相关工作介绍3. 对话情感生成3.1 任务介绍3.2 数据集介绍3.3 相关工作介绍4. 总结5. 参考资料 1. 介绍 近年来，随着自然语言处理技术的快速发展，人机对话系统受到了很多关注，并逐渐成为了学术界和工业界的研究热点。人机对话系统不断发展进步，应用范围不断扩大，人们对它也有了更高的要求，希望机器在关注回复内容的基础上，可以与人进行更深入的交流。 近期的一些工作表明[10, 13, 15,16, 18-21,
论文总结——情感对话
zoe的博客
06-13 2272
情感对话~
【四】情感对话 Improving Multi-turn Emotional Support Dialogue Generation with Lookahead Strategy Planning
彭伟的博客
11-09 1153
这篇文章主要考虑的是做一个未来策略的安排，在其中用到了A*搜索算法，分别计算了基于历史，对当前作出的判断以及对未来的一个规划实验效果，充分的说明了模型的有效性。该函数有两部分打分组成，第1部分打分表示的是根据过去的信息来得到当前的一个策略，第2部分的打分是如何考虑未来的信息评估用户的反馈（肯定要选择反馈好的策略）。实验部分主要的是两个实验，第1个是回复生成的实验，第2个是策略预测的实验，那么这个也是给了这些相关的实验来证明模型的有效性。整个模型包含4个部分，左边是编码部分，右边是策略的预测以及解码部分。
【论文泛读98】情感感知对话响应生成和分类的多任务学习
scu-liu的博客
05-26 818
贴一下汇总贴：论文阅读记录 论文链接：《Multi-Task Learning of Generation and Classification for Emotion-Aware Dialogue Response Generation》 一、摘要 为了使计算机自然地与人互动，它必须像人一样。在本文中，我们提出了一种以生成和分类的多任务学习为重点的神经反应生成模型，重点是情感。我们基于BART的模型（Lewis等人，2020年）是经过预先训练的变压器编码器/解码器模型，经过训练可以生成响应并同时识别情绪。
论文阅读笔记-AGMB-Transformer: Anatomy-Guided Multi-Branch Transformer Networkfor Automated Evaluation
XZH16047129的博客
11-29 3006
目录 摘要 摘要 -对X线图像治疗结果的准确评估是根管治疗中一个重要且具有挑战性的步骤，因为对治疗结果的错误解释会阻碍及时的随访，这对患的治疗结果至关重要。目前，评价都是手工进行的，既耗时、主观，又容易出错。本文旨在利用计算机视觉和人工智能领域的研究进展，实现这一过程的自动化，为根管治疗结果的评估提供一种客观、准确的方法。提出了一种新的解剖引导多分支变压器(AGMB-变压器)网络，首先提取一套解剖特征，然后利用它们引导多分支变压器网络进行评价。具体地说，我们设计了一种多项式曲线拟合分割策略来提取解
论文阅读笔记-TransFG: A Transformer Architecture for Fine-Grained Recognition
XZH16047129的博客
03-24 2124
目录 摘要 1.引言 2.相关工作 3.方法 3.1 Vit作为特征提取器 3.1.1 图像序列化 3.1.2 patch嵌入 3.2 TransFG 结构 3.2.1 区域选择模块 摘要 细粒度视觉分类(FGVC)旨在从子类别中识别对象，这是一项非常具有挑战性的任务，因为其固有的微妙的类间差异。现有的工作主要通过重用主干网络提取检测到的识别区域的特征来解决这一问题。然而，这种策略不可避免地会使管道复杂化，并推动建议的区域包含对象的大部分部分，因此无法定位真正重要的部分。 .
【深度学习】论文阅读：（ICCV-2021））Segmenter:Transformer for Semantic Segmentation
zhe470719的博客
04-29 3418
这里写目录标题详情 详情 名称：Segmenter:Transformer for Semantic Segmentation 时间： last revised 2 Sep 2021 (this version, v3)] 单位：Robin A. M. Strudel 论文：论文 代码：
Empathetic-COAI-Papers：这是一个用于审查和讨论共情对话式AI领域最新技术论文的资料库。 提供每篇论文的相关源代码（如果有）
02-10
善解人意的对话AI论文 该存储库旨在涵盖有关移情式对话AI系统的最新工作； 这可能包括相对语料库（即数据集），移情聊天机器人，计算方法和移情模型，甚至包括与移情紧密相关的主题，例如情感。 如果有的话，将提供每篇论文的相关源代码。 免责声明 此存储库中的评论完全基于个人意见和理解； 由于我在自然语言处理和移情对话的生成领域进行了几个月的研究，因此不能保证所提供的想法或批评是完全准确的。 如果我犯了错误或提出了错误的想法，请告知。 非常感谢您的评论。 2020年 标题 资源 码 星星 9 140 通过知识增强和情感依赖模型进行共情对话生成 EmpTransfo-用于创建移情对话系统的多头变压器架构 如果机器人感觉到了该怎么办 语音对话中的序列标签分层预训练 2019年 标题 资源 码 星星 基于情境的情感神经语言生成 在对话框中生成具有特定情感的响应 走向移情开放域对话模型 2018年
情感语音训练库
09-09
情感语音训练库,
最新最全论文合集——对话生成
AI_Conf的博客
02-05 432
AMiner平台（https://www.aminer.cn）由清华大学计算机系研发，拥有我国完全自主知识产权。平台包含了超过2.3亿学术论文/专利和1.36亿学者的科技图谱，提供学者评价、专家发现、智能指派、学术地图等科技情报专业化服务。系统2006年上线，吸引了全球220个国家/地区1000多万独立IP访问，数据下载量230万次，年度访问量超过1100万，成为学术搜索和社会网络挖掘研究的重要数据和实验平台。 必读论文：https://www.aminer.cn/topic 论文集地址：https:/.
【二】情感对话 Control Globally,Understand Locally: A Global-to-Local Hierarchical Graph Network for ESConv
彭伟的博客
11-07 862
今天给大家分享一篇在IJCAI 2022的关于情感对话的论文。该论文由中科院信工所彭伟、胡玥老师团队发表，主要思想是从认知的角度来挖掘用户隐式表达的意图信息，以及建模用户的意图、情感问题和对话历史之间的关系。
约翰霍普金斯大学 data science toolbox 笔记
icecutie的博客
05-17 1564
data scientists toolbox
迁移学习(Transfer Learning)TL
Ramble Over The Cloud~
05-22 2390
在机器学习领域，迁移学习(Transfer learning)是一个比较新的名词。目前国内做这个方面的很少，我目前只知道香港科技大学杨强教授及上海交大的机器学习小组在从事这方面的研究，近几年他们已经取得大量的成果，发表了十几篇AI领域顶级的会议论文，着实让我崇拜不已。接下来的研究生活，偶希望能循着他们的足迹慢慢摸索！ Qiang Yang http://www.cse.ust.hk/~qyan
自然语言处理（NLP）：17 Transformer模型解读
艾文
06-03 1894
NLP 领域的模型研究已经被 transformer 模型占领了，学习Transformer 理解Attention,Self-Attention 机制应用实现以及原理，理解BERT 模型必备内容。
EmpDG: Multi-resolution Interactive Empathetic Dialogue Generation论文笔记
weixin_44128613的博客
01-18 1220
EmpDG: Multi-resolution Interactive Empathetic Dialogue Generation论文笔记
Transformer模型详解：从Scaled Dot-Product Attention到Multi-Head Attention
"Transformer.ppt 是一个关于Transformer模型的介绍，涵盖了其提出的背景、Encoder的结构，特别是ScaledDot-Product Attention和Multi-Head Attention的详解，以及Decoder的部分内容。讲解中以实例“华南”演示了...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

365JHWZGo

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值
>