Python中文分词包:jieba分词

本文介绍了Python的jieba分词包,包括基本功能如分词和词性标注,词库更新方法如增加自定义词和词典,以及特色功能如特征词抽取和并行分词。jieba分词遵循词频统计原则,支持自定义词典和词频调整。
摘要由CSDN通过智能技术生成

一、 基本功能
import jieba
jieba._pcut(str), 生成的结果未做词性标注
jieba.posseg.cut(str,HMM=False)
生成的结果已做词性标注,HMM为隐马尔科夫模型,用于未登陆词(在词典中未出现过)的识别

二、词库更新
(重新加载后失效,如需永久更改,可更换词典文件或者在现有词典文件中编辑更改)
1)增加自定义词 :jieba.add_word(str,tag=” “)
若jieba默认的词典中存在自定义词语,则原词典中的词语将会替换成最新的,tag标记生效。

2)增加自定义词典:jieba.load_userdict(path)
字典内容格式如下:
真好 100 adg
香格里拉 3 n
注意:源码中自定义tag提取规则如下:re_userdict = re.compile(‘^(.+?)( [0-9]+)?( [a-z]+)?$’, re.U)
即:tag只能是小写英文,词频只能是数字

3)更改分词的主词典:jieba.set_dictionary(dict_path)
说明:词库更新操作均会改变jieba词库,词库重载后失效。jieba分词原则:采用词频统计计算得分最高者,为最终分词结果。
计算公式如下:
输入文本:S, 词典总词频:N(常量),单个词语的词频:P(A)
1)S = A+B+

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值