【自然语言处理】：n-gram模型深度理解

n-gram模型是自然语言处理里面的一个传统模型。我们来看看他是怎么实现的吧！要了解n-gram模型，我们先来看看什么是语言模型！

一.语言模型

语言模型的定义是：语言模型是一种用来预测下一个单词什么的任务。比如我们有一句话：

 the students opened their  _______. (其中可以填写books/laptops/exam/minds)，那么语言模型就是用来预测这个空当中应该填写什么单词。

语言模型的正式定义为：

 也就是我们在知道前面的单词的情况下，计算最后一个单词X^(t+1)的概率是多大，最后一个单词X^(t+1)可以是词表当中的任意单词，我们可以将词表当中的每一个单词都计算一遍。上面的这个公式其实也很容易理解，它是一个