自然语言处理期末复习（2）中文分词

1.汉语分词：通过计算机程序把组成汉语文本的字串自动转换

为词串的过程被称为自动切分

2.汉语切分的原因：（1）语音的合成（2）信息检索（3）词语计量分析

3.汉语分词基本方法：（1）基于词表的方法（2）字序列标记方法

4.最大匹配法：

（1）  正向最大匹配法(MM) 从左向右匹配词表

（2）  逆向最大匹配法(RMM) 从右向左匹配词表

5.歧义的类型

（1）交集型歧义：AJ/B、A/JB

交集型歧义字段中交集字段的个数，称作链长

（2）组合型歧义:  AB、A/B

（3）混合型歧义:   同时包含交集型歧义和组合型歧义的歧义字段

6.伪歧义: 歧义字段单独拿出来看有歧义，但在(所有)真实语境中只有一种切分方式可接受。

真歧义：歧义字段在不同语境中确有多种切分方式,(1) 多种切分形式均匀分布 12% (2) 一种切分形式占优 88%

7．歧义的发现：

双向最大匹配(MM+RMM)

– 同时使用MM法和RMM法

– 如果MM法和RMM法给出同样的结果，认为没

有歧义，若不同，则认为出现了歧义

发现组合型歧义

– MM+逆向最小匹配法

发现所有切分歧义

– 全切分算法

8歧义消解

基于规则的歧义消解。

基于统计的歧义消解：在词图上搜寻统计意义上的最佳路径                            

9.中文人名识别：计算一个可能的人名字串的概率，若其概率大于某个阈值，则判别为人名。