深度学习笔记——基于双向RNN（LSTM、GRU）和Attention Model的句子对匹配方法

前面写过用Word2vec和Doc2vec进行句子对匹配，以及基于传统机器学习方法进行句子对匹配的方法，本文主要介绍基于双向RNN（LSTM、GRU）和Attention Model的句子对匹配方法。

首先来看一下什么叫句子对匹配：

句子对匹配（Sentence Pair Matching）问题是NLP中非常常见的一类问题，所谓“句子对匹配”，就是说给定两个句子S1和S2，任务目标是判断这两个句子是否具备某种类型的关系。如果形式化地对这个问题定义，可以理解如下：

意思是给定两个句子，需要学习一个映射函数，输入是两个句子对，经过映射函数变换，输出是任务分类标签集合中的某类标签。
典型的例子就是Paraphrase任务，即要判断两个句子是否语义等价，所以它的分类标签集合就是个{等价，不等价}的二值集合。除此外，还有很多其它类型的任务都属于句子对匹配，比如问答系统中相似问题匹配和Answer Selection。

接下来我们来看一下深度学习中都有哪些句子对匹配的模型：

句子对匹配模型（一）