python--jiaba库的基本使用

jieba 是一个用于中文分词的 Python 库。它使用基于统计的词典分词方法,能够支持三种分词模式:精确模式、全模式、搜索引擎模式,并且支持繁体分词和自定义词典。

以下是 jieba 库的基本使用步骤:

安装

首先,你需要安装 jieba 库。如果你还没有安装,可以通过 pip 来安装:

pip install jieba

1.基本使用

  • 精确模式:试图将句子最精确地切开,适合文本分析。

import jieba  
seg_list = jieba.cut("我来到北京清华大学", cut_all=False)  
print("Default Mode: " + "/ ".join(seg_list))  # 输出: 我/ 来到/ 北京/ 清华大学
  • 全模式:把句子中所有的可以成词的词语都扫描出来, 速度非常快,但是不能解决歧义。

seg_list = jieba.cut("我来到北京清华大学", cut_all=True)  
print("Full Mode: " + "/ ".join(seg_list))  # 输出: 我/ 来到/ 北京/ 清华/ 清华大学/ 华大/ 大学
  • 搜索引擎模式:在精确模式的基础上,对长词再次切分,提高召回率,适合用于搜索引擎分词。

seg_list = jieba.cut_for_search("我来到北京清华大学", cut_all=False)  
print("Search Engine Mode: " + "/ ".join(seg_list))  # 输出: 我/ 来到/ 北京/ 清华/ 华大/ 大学/ 清华大学

 2.添加自定义词典

你可以通过 jieba.load_userdict(file_name) 函数来加载自定义词典。词典的每一行是一个词,词的后面是词频和词性(可省略),用空格隔开。

例如,假设你有一个名为 userdict.txt 的词典文件,内容如下:

清华大学 1 n  
北京大学 1 n

 你可以这样加载它:

jieba.load_userdict('userdict.txt')  
seg_list = jieba.cut("我来到北京清华大学", cut_all=False)  
print(" ".join(seg_list))  # 输出: 我/ 来到/ 北京/ 清华大学

 3.其他功能

jieba 还提供了很多其他功能,如词性标注、关键词提取、并行分词等。

注意:在使用 jieba 时,请确保 Python 环境已经正确安装并配置了 jieba 库。

  • 15
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值