词嵌入和网络在NLP中贡献

本文解释如何应用神经网络并整合词嵌入到基于文本的应用中，还有一些主要暗含的好处。
首先词嵌入是词的密集向量表示，其中相似的词在向量空间中尽可能相似。例如在下图中，所有大型猫科动物在向量空间中都很相近。词嵌入表示一种很成功的非监督学习的应用，主要由于他们的泛化能力。构造词嵌入的方式多种多样，但大致上一个神经语言模型是在大型语料库中训练并且网络的输出被用来学习词向量。

接下来，我们何才能应用神经网络和词嵌入在文本数据中呢？这取决于具体任务，尽管一般文本编码都很相似。给定一段文本，每个向量对应到每次词然后传输到我们称为的嵌入层中。接着可能为0，1或者更多的隐藏层，最后的输出代表了给定任务的最终输出。取决于具体任务，