自然语言处理学习

一、神经网络模型

1.1input layer（输入层）

输入每一个词向量

1.2.projection layer（投影层）

把词向量进行拼接。

1.3.hidden layer（隐藏层）

1.4.output layer（输出层）

 示例图

 输入输出流程实例

2.1优势

s1= “我  今天 去 网咖” 出现了1000次

s2= “我 今天 去 网吧” 出现了10次

对于N-gram 模型：p（s1）>>p(s2)

而神经模型计算的p(s1)约等于p(s2）