基于二元语法模型的中文分词

基于二元语法模型的中文分词

一、基于二元语法模型分词的思想

下面是该程序的主要过程与思路：

1、针对语料库进行训练。

本程序使用的是北大提供的人民日报1998 年1 月的语料库，包含约110万词。由于采用二元语法模型，所以需要计算语料库中单个词的频率，以及每一个词后面出现另一个词的频率。

2、建立二元切分词图。

       建立一个有向无环图，图中的结点为任意一个可能的候选词语，图中的边代表相邻两个词语的续接关系。二元切分词图的每一条边的权值表示二元词语转移概率P(Wi|Wi-1)。 任何一种切分的方式可以表示为二元切分词图上的一条起始结点到结束结点的路径。路径上所有边的概率之积就是该切分结果对应的二元语法模型概率。而我们要做的就是找出一条概率之积最大的路径。

3、对一个句子进行全切分。

在对句子进行切分时要按照词图的拓扑序，即从句首到句尾，每一个汉字表征一个hierarchy. 将词图中的词归类到各个hierarchy。 比如句子为“对一个句子进行全切分”。则词图中以“对”字结尾的词归到hierarchy0,以“一”字结尾的词归到hierarchy1……以此类推。

4、Viterbi算法求最优路