前言
意图、情感和行动是人类活动的重要组成部分。 通过分析这些元素之间的关系来模拟个体之间的交互过程是一项具有挑战性的任务。 以前的工作主要侧重于对意图和情感的独立建模，而忽视了对意图和情感之间的相互关系的探索。 今天要介绍的paper就是提出了一个由意图关系模块和情感关系模块组成的关系交互网络（RAIN），以联合建模相互关系并明确整合历史意图信息。
论文链接：https://arxiv.org/pdf/2202.06476v1.pdf
介绍
意图是判断人接下来行动的重要研究方向且当外部世界的状态发生变化并且变化满足了意图时，人的情感就是快乐的。情绪是内外世界共同刺激所产生的心理行为。也就是说，情绪是由他们自己的意图和外部行为共同决定的。
上图是paper给的一个例子， A 渴了想喝酒，所以他提出了一个请求来满足他的饮酒意向请求，从目前的意图和话语中，可以推断出他的情绪不太好。然后，一个新的动作Do you want orange or Coca-Cola 由 B 触发，从中推断出意图质疑。同样，A 人表达了一个新的意图（Coca-Cola, please）。并且由于历史意向饮酒要求的满足，情绪已经转变为快乐。
所以考虑意图和情感之间的相互关系至关重要。
方法
从上图可以大致看到整体的设计逻辑，主要包括意图module(图b)和情感module(图c)。 首先，意图module通过 econder获得对话的上下文表示，并显式的引入意图字典以进行可解释的意图识别。 然后，情感module设计了一种意图融合机制(图中的Intention Fusion Mechanism)，以明确地整合历史意图信息。 最后，RAIN 通过多任务学习对意图向量 s̃i 和情感向量 g̃i 进行预测。
下面我们详细看看各个子module
（1）Intention Relation Module
其中的Encoder Module采用的是RoBERTa没什么可说的，比较简单，这里需要说一说的是其Intention Dictionary的设计，作者通过观察发现某些特定的词如ask for、proposal在一定程度上是可以反映出人的一些意图的，于是提取了特征词，然后计算每个特征词在不同意图上的词频，并将其归一化以获得概率分布 pi。 最后就以此构建了一个意图词典作为先验意图知识库即paper中的Intention Dictionary，最后输出关键字在所有相应意图上的概率分布 pi，将其视为增强语义的可解释信号的意图。最后意图向量 s̃i 可以得到为
其中W的维度是h×l，h为隐编码维度度，l为意图种类的大小
(2) Emotion Relation Module
从上图也可以看出其输入包含三个方面当前的对话ui，历史意图hi和当前意图module的输出 s̃i ，具体的Encoder Module同样是用了另外一个RoBERTa，没什么说的；Historical Intention Modeling就是联合建模历史和当前意图，作者采取了LSTM结构如下：
而Intention Fusion Mechanis要联合建模的是s̃i ,hi具体为
这里的Fuse可以有多种方式进行揉合比如将两者concatenation或者add，而最后作者采用了目前用的最多的一种heuristic matching trick如下：
最后的情感向量 g̃i 表征就是
(3) Prediction for Intention and Emotion
这里就非常简单了，就是一个分类任务具体采用的是交叉熵
实验效果
具体的实验效果大家如果感兴趣可以去看原论文～
总结
（1）看到这篇paper的时候，笔者感到开心的并不是其设计的一些module等等，而是其思考的出发点：通过对话来挖掘情感、意图等等，其实对话系统可以做很多事，因为对话背后就是包含了意图等等，有很多可以挖掘的东西，之前笔者就写过一篇关于这方面的思考，而且目前对话尤其是中文开放领域对话技术还不是很成熟，可用的模型不是很多，所以对话这个赛道还是有很多东西可以做的：
https://zhuanlan.zhihu.com/p/458097616（2）在NLP越来越卷的情况下，大家可以考虑一些多任务学习方向，这个不仅仅是一些侠义的多任务学习，它可以是广义的，比如可以把各种任务甚至是所有NLP任务联合建模，加大数据利用率，同时可以考虑这些任务的主辅次序等等。
关注
欢迎关注，下期再见啦~
欢迎关注笔者微信公众号：
github:
Mryangkaitong · GitHubhttps://github.com/Mryangkaitong
知乎：
7161
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
