贴一下汇总贴:论文阅读记录
论文链接:《Relation Classification via Multi-Level Attention CNNs》
一、摘要
在众多试图从文本中挖掘结构化事实的信息抽取系统中,关系分类是一个至关重要的组成部分。我们提出了一种新的卷积神经网络结构来完成这项任务,它依靠两个层次的注意力来更好地识别异构环境中的模式。这种体系结构允许从特定于任务的标记数据中进行端到端的学习,而不需要外部知识,如显式的依赖结构。实验表明,我们的模型优于以前最先进的方法,包括那些依赖于更丰富形式的先验知识的方法。
二、结论
我们提出了一个CNN架构,它有一个新的目标和一种新的注意力机制,应用于两个不同的层次。我们的结果表明,这种简单但有效的模型能够超越以往的工作,依赖于丰富的先验知识的形式,结构化模型和自然语言处理资源。我们希望这种架构也能超越关系分类的特定任务,我们打算在未来的工作中探索这一点。
三、模型结构
这篇文章主要提出了卷积神经网络模型与注意力机制(Attention)结合的关系抽取方法,其中attention机制加了两层,一层是输入层的,一层是池化层的,模型网络结构如下。