![8ef152a14a771c2a0f3308461021f79d.png](https://i-blog.csdnimg.cn/blog_migrate/c815ac035a553b09b61cf6d06ac9e56e.png)
CS224N第六讲主要研究语言模型及循环神经网络在语言模型中的应用。
语言模型
语言模型(Language Modelling)研究的是根据已知序列推测下一个单词的问题,即假设已知
语言模型应用广泛,比如手机上打字可以智能预测下一个你要打的词是什么,或者谷歌搜索时自动填充问题等都属于语言模型的应用。语言模型是很多涉及到产生文字或预测文字概率的NLP问题的组成部分,如语音识别、手写文字识别、自动纠错、机器翻译等等。
经典n-gram模型
较为经典的语言模型是n-gram模型。n-gram的定义就是连续的n个单词。例如对于 the students opened their __这句话,unigram就是"the", "students", "opened", "