GCAE(第一个将基于CNN的模型用于ABSA任务)
论文:Aspect Based Sentiment Analysis with Gated Convolutional Networks
原先存在的问题:许多之前的工作都是基于LSTM和注意力机制的,会将方面目标词的上下文同时编码,而这些上下文往往是同时含有方面信息和情感信息的,在使用Attention对这些上下文单词打分时,就会忽略这两类信息的不同。计算量比较大,费时间(LSTM是有时序的,计算效率低,Attention 可以并行但是计算复杂度高。
GCAE代表了一种有效且高度并行化的情感分析模型,通过整合卷积层和门控单元,以及引入两种精准的过滤机制,提供了更优越的性能。提出了一种适用于ACSA和ATSA任务的具有门控机制的高效卷积神经网络。GTRU可以根据给定的aspect信息有效地控制情感流,两个卷积层分别aspect信息和情感信息进行建模。
· Gated Tanh-ReLU Units 可以选择输出针对给定aspect/entity的情感特征;
· 该模型比之前的基于attention的模型更加简单;
· 由于CNN的卷积层没有时间依赖, 训练时可以并行,门控单元可以独立工作,计算效率更高;
· 第一个将基于CNN的模型用于ABSA任务