语义相似度匹配（一）—— DSSM模型

一、简介

论文：Learning Deep Structured Semantic Models for Web Search using Clickthrough Data

微软13年提出的计算文本相似度的深度学习模型，核心思想是将query和doc映射到到共同维度的语义空间中，通过最大化query和doc语义向量之间的余弦相似度，从而训练得到隐含语义模型，达到检索的目的。DSSM有很广泛的应用，比如：搜索引擎检索，广告相关性，问答系统，机器翻译等。

网络框架如下：

二、 原理

对输入文本的one-hot向量，通过Word Hashing达到降维的效果，接下来送到传统的神经网络抽取语义特征，计算语义特征之间的相似度。

2.1 Word hashing

需要注意的是原论文中的DSSM处理的数据是英文数据，对于英文数据来说，英文单词的数量是很庞大的，可以看作无限集合，但是