python的jieba如何分词_Python jieba分词

1.安装jieba分词pip install jieba #有可能会报错,使用清华源没有报错2.切词的方法:jieba.cut() 和 jieba.cut_for_search()2.1 jieba.cut()第一个参数: 需要分词的字符串。第二个参数: cut_all 控制切词的模式。切词模式:精确模式:试图将句子最精确地切开,适合文本分析;全模式:把句子中所有的可以成词的词语都扫描出来,...
摘要由CSDN通过智能技术生成

1.安装jieba分词

pip install jieba #有可能会报错,使用清华源没有报错

2.切词的方法:jieba.cut() 和 jieba.cut_for_search()

2.1 jieba.cut()

第一个参数: 需要分词的字符串。

第二个参数: cut_all 控制切词的模式。

切词模式:

精确模式:试图将句子最精确地切开,适合文本分析;

全模式:把句子中所有的可以成词的词语都扫描出来, 速度非常快,但是不能解决歧义问题;

第三个参数:HMM 参数用来控制是否使用 HMM 模型

2.2 jieba.cut_for_search()

搜索引擎模式:在精确模式的基础上,对长词再次切分,提高召回率,适合用于搜索引擎分词。

以上两种方式切词,返回的结果是一个可迭代的generator对象,可以进行遍历或者转换为列表进行处理。 jieba.lcut 以及 jieba.lcut_for_search 直接返回 list

3.添加自定义词典:jieba.load_userdict()

参数词典文件路径的字符串,文件格式为utf-8

词典的每行格式分为三个部分(之间用空格隔开):

第一部分:词语

第二部分:词频(也可能是权重)

第三部分:词性 (可忽略不写)

4.关键词提取:jieba.analyse.extract_tags()

4.1关键词提取

先from jieba import anallyse

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值