1. jieba库基本用法

1. 简介

jieba库对中文分词的支持性较好,将文本分成粒度更细的词。详细介绍参见jieba

2. 基本分词函数

jieba.cut以及 jieba.cut_for_search 返回的结构都是一个可迭代的 generator。

  • jieba.cut 方法接受三个输入参数:
    • 需要分词的字符串
    • cut_all参数用来控制是否采用全模式
    • HMM 参数用来控制是否使用 HMM 模型
  • jieba.cut_for_search 方法接受两个参数
    • 需要分词的字符串
    • 是否使用 HMM 模型。
    • 该方法适合用于搜索引擎构建倒排索引的分词,粒度比较细

jieba.lcut以及jieba.lcut_for_search直接返回 list。

3. 添加用户自定义字典

因为专业需要,我们可以预先指定需要进行分词的词汇。

  1. jieba.load_userdict(file_name)加载用户字典
  2. 少量的词汇可以自己用下面方法手动添加:
    jieba.add_word(word, freq=None, tag=None)jieba.del_word(word)在程序中动态修改词典
    ji
  • 4
    点赞
  • 26
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值