Pytorch Note41 N-Gram 模型

Pytorch Note41 N-Gram 模型

全部笔记的汇总贴： Pytorch Note 快乐星球

首先我们介绍一下 N-Gram 模型的原理和其要解决的问题。对于一句话，单词的排列顺序是非常重要的，所以我们能否由前面的几个词来预测后面的几个单词呢，比如 ‘I lived in France for 10 years, I can speak _’ 这句话中，我们能够预测出最后一个词是 French。

对于一句话 T，其由 w 1 , w 2 , ⋯   , w n w_1, w_2, \cdots, w_n