【论文泛读30】基于多层次注意CNN的关系分类

贴一下汇总贴：论文阅读记录

论文链接：《Relation Classification via Multi-Level Attention CNNs》

一、摘要

在众多试图从文本中挖掘结构化事实的信息抽取系统中，关系分类是一个至关重要的组成部分。我们提出了一种新的卷积神经网络结构来完成这项任务，它依靠两个层次的注意力来更好地识别异构环境中的模式。这种体系结构允许从特定于任务的标记数据中进行端到端的学习，而不需要外部知识，如显式的依赖结构。实验表明，我们的模型优于以前最先进的方法，包括那些依赖于更丰富形式的先验知识的方法。

二、结论

我们提出了一个CNN架构，它有一个新的目标和一种新的注意力机制，应用于两个不同的层次。我们的结果表明，这种简单但有效的模型能够超越以往的工作，依赖于丰富的先验知识的形式，结构化模型和自然语言处理资源。我们希望这种架构也能超越关系分类的特定任务，我们打算在未来的工作中探索这一点。

三、模型结构

这篇文章主要提出了卷积神经网络模型与注意力机制(Attention)结合的关系抽取方法，其中attention机制加了两层，一层是输入层的，一层是池化层的，模型网络结构如下。