该模型第
n
个词的出现只与前面
N-1
个词相关,而与其它任何词都不相关,整句的概率就是各个词出现概率的乘积。这些概率可以通过直接从语料中统计
N
个词同时出现的次数得到。常用的是二元的
Bi-Gram
和三元的
Tri-Gram
。
对于一个句子T,我们怎么算它出现的概率呢?假设T是由词序列W1,W2,W3,…Wn组成的,那么P(T)=P(W1W2W3Wn)=P(W1)P(W2|W1)P(W3|W1W2)…P(Wn|W1W2…Wn-1)
补充知识:
![关于N-Gram模型(例子很好) 关于N-Gram模型(例子很好)](https://i-blog.csdnimg.cn/blog_migrate/f2f96a677899737b031506ba4e44c39e.jpeg)
![关于N-Gram模型(例子很好) 关于N-Gram模型(例子很好)](https://i-blog.csdnimg.cn/blog_migrate/8b279b64f20d5c527723a9dc88fbb6e2.jpeg)
但是这种方法存在两个致命的缺陷:一个缺陷是参数空间过大,不可能实用化;另外一个缺陷是数据稀疏严重。
为了解决这个问题,我们引入了马尔科夫假设:一个词的出现仅仅依赖于它前面出现的有限的一个或者几个词。
如果一个词的出现仅依赖于它前面出现的一个词,那么我们就称之为bigram。即
P(T) = P(W1W2W3…Wn)=P(W1)P(W2|W1)P(W3|W1W2)…P(Wn|W1W2…Wn-1)
≈P(W1)P(W2|W1)P(W3|W2)…P(Wn|Wn-1)
如果一个词的出现仅依赖于它前面出现的两个词,那么我们就称之为trigram。
在实践中用的最多的就是bigram和trigram了,而且效果很不错。高于四元的用的很少,因为训练它需要更庞大的语料,而且数据稀疏严重,时间复杂度高,精度却提高的不多。
最大似然估计(Maximum Likelihood Estimate)。P(Wn|W1W2…Wn-1) = (C(W1 W2…Wn))/(C(W1 W2…Wn-1))
下面我们用bigram举个例子。假设语料库总词数为13,748
![关于N-Gram模型(例子很好) 关于N-Gram模型(例子很好)](https://i-blog.csdnimg.cn/blog_migrate/f1395b5ea16552957f9fcaf25e0b61df.jpeg)
![关于N-Gram模型(例子很好) 关于N-Gram模型(例子很好)](https://i-blog.csdnimg.cn/blog_migrate/e7b54354f88cfeaaa047a94833b73fc7.jpeg)
数据稀疏问题了,假设词表中有20000个词,如果是bigram那么可能的N-gram就有400000000个,如果是trigram,那么可能的N-gram就有8000000000000个.其中的很多词对的组合,在语料库中都没有出现,根据最大似然估计得到的概率将会是0,这会造成很大的麻烦,在算句子的概率时一旦其中的某项为0,那么整个句子的概率就会为0. 因此,我们要进行数据平滑(data Smoothing),数据平滑的目的有两个:一个是使所有的N-gram概率之和为1,使所有的N-gram概率都不为0。
SRILM是一个统计和分析语言模型的工具,提供一些命令行工具,如ngram,ngram-count,可以很方便的统计NGRAM的语言模型。http://blog.csdn.net/u010747691/article/details/44176851