自然语言处理期末复习(2)中文分词

1.汉语分词:通过计算机程序把组成汉语文本的字串自动转换

为词串的过程被称为自动切分

2.汉语切分的原因:(1)语音的合成(2)信息检索(3)词语计量分析

3.汉语分词基本方法:(1)基于词表的方法(2)字序列标记方法

4.最大匹配法

(1)  正向最大匹配法(MM) 从左向右匹配词表

(2)  逆向最大匹配法(RMM) 从右向左匹配词表

5.歧义的类型

(1)交集型歧义:AJ/B、A/JB

交集型歧义字段中交集字段的个数,称作链长

(2)组合型歧义:  AB、A/B

(3)混合型歧义:   同时包含交集型歧义和组合型歧义的歧义字段

6.伪歧义: 歧义字段单独拿出来看有歧义,但在(所有)真实语境中只有一种切分方式可接受。

真歧义:歧义字段在不同语境中确有多种切分方式,(1) 多种切分形式均匀分布 12% (2) 一种切分形式占优 88%

7.歧义的发现:

双向最大匹配(MM+RMM)

– 同时使用MM法和RMM法

– 如果MM法和RMM法给出同样的结果,认为没

有歧义,若不同,则认为出现了歧义

发现组合型歧义

– MM+逆向最小匹配法

发现所有切分歧义

– 全切分算法

8歧义消解

基于规则的歧义消解。

基于统计的歧义消解:在词图上搜寻统计意义上的最佳路径                            

9.中文人名识别:计算一个可能的人名字串的概率,若其概率大于某个阈值,则判别为人名。


  • 1
    点赞
  • 6
    收藏
  • 打赏
    打赏
  • 2
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
©️2022 CSDN 皮肤主题:程序猿惹谁了 设计师:我叫白小胖 返回首页
评论 2

打赏作者

康雨城

你的鼓励将是我创作的最大动力

¥2 ¥4 ¥6 ¥10 ¥20
输入1-500的整数
余额支付 (余额:-- )
扫码支付
扫码支付:¥2
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、C币套餐、付费专栏及课程。

余额充值