《ABCNN-Attention-Based Convolutional Neural Network for Modeling Sentence Pairs》阅读笔记

1.主要贡献

 

1.1 可用于多种需要对句子队建模的任务，如：

  answer selection 选取答案，QA匹配；

  paraphrase identification 复述鉴别，判断两个句子意思是否相同；

  textual entailment 文本蕴含，第一句是否意味着第二句；

 

1.2 提出三种注意力机制：

  它们将句子间的相互影响整合到CNN中，因此每个句子的表示都考虑到了它对应的句子。

  这些相互依赖的句子对表示比独立的句子表示更强。

 

2.BCNN：Basic Bi-CNN