方法流程
本文针对文本的句法信息提出了扰动掩码(Perturbed Masking)是一种从预训练过的模型中检测句法信息的方法,可以从中不添加额外的参数而诱导出依赖树。
句法依赖树的本质实际上是一棵树,本文通过扰动掩码的方式抽取出一个 更加 sentiment word-oriented的Tree,从而实现一个不错的效果。
结论
本文认为预训练语言模性中已经包含有大量的句法和语义信息,不需要对再单独生成一个句法依赖书来利用句法信息,只需要利用扰动掩码来生成一个影响矩阵就可以利用文本中的句法信息。