Adaptive recursive neurall network for target-dependent Twitter sentiment classification
Dong et al., 2014
本文解决的问题,判断句子针对不同的target表达的情感。
总结:本文的模型是基于依存树的递归神经网络。给定一个句子及其依存树,对句子中不同的target变换依存树,使得target term处于树根位置。并且在计算父节点的向量表示时,用到多种不同的组合函数,选择哪个组合函数取决于左右孩子节点以及依存类型。文中给定10个组合函数,通过计算在组合函数上的一个概率分布,以各组合结果的加权和作为父节点的representation,这就是题目中的adaptive。作者对这个结构给的解释是,把单词的情感通过组合传递给根节点——target。不同的组合函数,借鉴了Socher的思想,在递归神经网络中,如果在对孩子节点进行语义组合的时候,只用一种组合方式(对应一个矩阵参数),意味着这个矩阵需要存储不同词性的单词、不同位置的单词的组合信息,对这个矩阵来说责任太重,于是Socher提出基于孩子节点词性的多种组合方法,举个例子来说,如果左右孩子都是noun,那么对应一个组合矩阵;如果左孩子是形容词,右孩子是名词,那么对应另一个组合矩阵。这相当于在神经网络中加入了关于词性的先验信息。
文中对不同的target,根据依存句法结果得到的递归结构是什么形式的?怎么实现变换的?组合函数的设置以及组合方法?
1、converted dependency tree
给定一句话,从target单词开始ÿ