第四章
N-gram模型:用前面的N-1个词去预测第N个词的概率的模型。并且这种预测第N个词的模型。N指的是句子中的连续N个词。最终显示他与预测一系列词出现的概率相似。
4.2 simple(unsmoothed)N-grams
我们的目标是计算在给定一些内容h,来计算词w出现的概率,即P(w | h).比如计算P(the | its water is so transparent that),
方法一:统计词典中所有句子,计算出ite … that句子后面跟的是the的数目,然后除以总数。
方法二:如下,在h条件的w出现的概率,可以理解为h+w一起出现的概率,然后运用概率论的链式法则,推理如下: