python库--jieba(中文分词)

import jieba
精确模式,试图将句子最精确地切开,适合文本分析;全模式,把句子中所有的可以成词的词语都扫描出来, 速度非常快,但是不能解决歧义;搜索引擎模式,在精确模式的基础上,对长词再次切分,提高召回率,适合用于搜索引擎分词。
.cut()sentence需要分词的字符串
cut_all=F是否采用全模式(否则使用精确模式)
HMM=T是否使用HMM模型(可识别不在词典中的词)
.cut_for_search()(sentence, HMM=T) 搜索引擎模式
.load_userdict(f)载入词典, f为自定义词典的路径词典格式和dict.txt一样, 一个词占一行; 每一行分三部分, 一部分为词语, 另一部分为词频(可省略, 词频越高成词几率越大),最后为词性(可省略), 用空格隔开
.suggest_freq()使用建议的单词频率强制一个单词中的字符拆分或连接 
.add_word()word需要修改词频或词性的词
freq=N设置词频
tag=N设置词性
import jieba.analyse
.extract_tags基于TF-IDF算法的关键词抽取
sentence待提取的文本
topK=20返回多少个TF/IDF权重最大的关键词
withWeight=F是否一并返回关键词权重值(word, weight)
allowPOS=()仅包括指定词性的词, 默认不筛选
withFlag=F当 allowPOS不为空,是否返回对象(word, weight),类似posseg.cut

转载于:https://www.cnblogs.com/P--K/p/7965421.html

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值