基于文本的对话情绪识别模型介绍一(HiGRU)

本文介绍了NAACL 2019年一篇论文中的HiGRU模型,该模型仅使用文本数据就能高效预测对话情绪。HiGRU通过改进GRU和Attention机制,考虑了pad的影响,并提供了不同Fusion策略。文章详细阐述了模型结构、创新点以及数据处理过程。
摘要由CSDN通过智能技术生成

基于文本的对话情绪识别模型介绍一(HiGRU)

在最近学习和实习中,主要解决的是语音情绪识别的问题。有关语音情绪识别的研究,国外普遍采用异构数据融合的方式来识别情绪,常见的有V(video),A(audio),T(text)三类数据。比较权威的数据集之一是IEMOCAP,包括了音频、视频与音频的转义文本。在此,作者介绍的是NAACL 2019的一篇文章,论文下载地址为https://arxiv.org/abs/1904.04446?context=cs,这篇论文只使用text文本来预测对话中每句话包含的情绪,达到了较高的准确率。
笔者在这里主要结合模型图和代码,来介绍HiGRU模型。

模型示意图

在这里插入图片描述
通过模型图,我们可以直观地观察到,HiGRU分为两部分,左半部分是获得对获取独立句子级别经过双向GRU捕捉到的序列特征,右半部份得到句子与句子之间存在的序列特征。

HiGRU模型的创新点

1、在GRU处理tensor为[batch,time_steps,embs]数据时考虑到了pad机制会用0或其他无意义单词补足长度的情况,具体表现为由于句子长度不够而用pad填充位置的单词不应该进入双向GRU进行计算。
2、Attention机制,在做attention时考虑到pad填充词不应该参与计算的情况,而赋于其一个极小的数&#

评论 8
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值