一、文章工作
提出了一种新的学习神经网络分类器的方法,用于greedy和transition-based的依存解析器
二、文章贡献
- 展示了在解析任务中学习到的稠密表示的有效性;
- 开发了一种具有良好精确度和速度的神经网络体系结构;
- 引入一种新的神经网络激活函数(cube),能更好地捕获高阶交互特征。
三、基于过渡的依存解析
1.目的:预测从初始状态到最终状态的转换序列,从而生成目标依赖解析树,是使用一系列由初始到最终的状态的表示句法分析的过程。
栈(stack):存储已经分析过的词;
缓冲(buffer):待分析的词。
transition的选择是基于当前状态(configuration)的,且是贪心算法,虽然损失了一点准确率,但是大大提升了速度。
2. 状态configuration:c=(s,b,A),s代表栈,b代表缓冲,A代表当前已经画好的依赖弧集合;
假设一个句子为,
,…
.(
都是句子中的单词)
初始状态:s=[ROOT],b=[,
,…
],A=
最终状态:s=[ROOT],buffer为空