论文阅读（2022）EmotionFlow：capture the dialogue level emotion transitions 捕捉对话层面的情绪转

摘要

ERC中用户的情绪会因他人情绪的影响而改变。谈话中的情绪可以在交流参与者之间传播。然而，现有的研究，情绪在谈话中的传播影响很少被提及。为此提出了ERC的EmotionFlow，并考虑了参与者在对话中情绪的传播。EmotionFlow首先通过连接上下文和辅助问题来编码用户的话语，这有助于了解用户特定的功能，再应用条件随机场在情感层面捕捉序列信息。

一、介绍

ERC旨在识别不同用户在谈话中的每一个回合的情绪， 通常情况下，对话中使用的语言通常简短且信息量大，因此仅凭一轮文本话语很难理解情感。

一个单词“OK”可以表达不同的情绪。一个人说“来吧，她走了，振作起来，好吗？”，回答“OK”是悲伤或沮丧。但对于前面的“给我一杯水”这句话，作为回应的“OK”的情绪更可能是中性的。

 

现有研究致力于会话语境表示：基于图的方法 [基于对话构建一个图，并通过图上的信息聚合完成上下文建模]和基于递归的方法 [通常会依次对话语进行编码，并按时间顺序对语义流进行建模 ]

现有的ERC方法主要致力于将语义与情感联系起来，但很少讨论对话中情感传播效应的显式建模。从直觉上看，用户的情绪在对话中会受到彼此的影响。参与者之间的情绪不是随机传递的，相邻的谈话回合更有可能有相同的情绪。

 

二、相关工作

三、方法 

3.1 问题设置 

 给定一组多方对话C、所有说话者集合S和情绪标签集合E，目标是识别每轮对话说话者的情绪。每个对话都包含一系列的话语以及相应的说话者。本文重点研究了ERC任务的实时设置，其中该模型只将前几轮作为输入，并识别说话者的情绪。

 

3.2 语义上下文建模 

受Transformers的成功启发，使用基于Transformer的预训练语言模型RoBERTa作为话语编码器来模拟语义上下文 。将情绪分类问题重新表述为一个问答任务，让模型学习特定于说话人的特征。使用最新的k轮话语和相应的说话人作为段落，在每轮构造一个辅助问题，比如“[说话人]现在感觉如何？”让模型了解用户特定的功能。

t轮模型的完整输入：

 

将完整输入送到预训练语言模型，最后一层使用<s>的嵌入作为话语的分类特征：

 

 得到在说话者所有情绪之上的伪概率分布：

 

 在训练阶段，采用标准交叉熵损失作为上下文建模的目标函数：

 

 3.3 情绪序列建模

对话中的情绪具有明显的时间相关性，本文利用条件随机场（CRF）来捕捉情绪的序列信息，以了解情绪在对话层面的传播效果， 给定一个包含N个话语的对话，CRF层的目标是在所有可能的情感序列中最大限度地提高基本真实情感序列的概率：

 

 根据CRF的线性链理论，P可以写成：

 

 

通过最大化真实情感序列P的概率来优化CRF层，损失函数：

 

3.4 训练与预测

将完整的对话视为输入， 首先在每轮构造话语编码器的QA式输入，然后计算每一个输入的情感概率，并获得分类损失了L1，再将其输入CRF层，得到负对数似然损失L2。在训练阶段，通过随机梯度下降联合优化话语编码器和CRF层，总损失：

 

四、实验

 

• 我们的模型优于所有没有外部知识的基线，这表明我们提出的ERC模型的有效性
• 最先进的方法是那些结合了外部知识的方法。COMET模型可以解释EmotionFlow和TODKA T之间的性能差距。本文重点是捕捉时间序列中情绪的关系，因此没有纳入外部知识

 

1. 在w\/o CRF的情况下，直接使用话语编码器的输出分数来预测情绪
2. EmotionFlow w\/o QA删除了构建的问题“（说话者）现在感觉如何？”每轮模型需要仅基于RoBERTa的位置嵌入来判断拼接在一起的几个句子中，哪个句子是这次转折的焦点。
3. 只有RoBERTa，CRF层和QA式的输入结构对于我们的模型的强大性能至关重要。

五、总结 

提出一种新的实时会话情感识别模型EmotionFlow ，应用了一个附加的CRF层来捕捉谈话过程中说话者之间的情绪转换概率。为了更好地建模语义语境，以QA方式为每轮构建输入，通过该模型可以从语境中学习特定于说话人的特征