jieba 使用笔记
安装: pip 即可
初始化
import jieba
import jieba.posseg # 词性标注
import jieba.analyse # 关键词
from jieba.analyse import ChineseAnalyzer # 搜索引擎
# jieba.initialize() # 手动初始化(可选)
分词 jieba.cut(sentence, cut_all , HMM)
cut_all= 参数用来控制分词模式 False 为精确模式 True为全模式
HMM= 参数用来控制是否使用 HMM 模型用于新词发现
jieba提供3种分词模式:
- 精确模式,试图将句子最精确地切开,适合文本分析;
- 全模式,把句子中所有的可以成词的词语都扫描出来, 速度非常快,但是不能解决歧义;
- 搜索引擎模式,在精确模式的基础上,对长词再次切分,提高召回率,适合用于搜索引擎分词。
并行分词(不支持win)
jieba.enable_parallel(2) # 开启并行分词模式,参数为并行进程数
jieba.disable_parallel() # 关闭并行分词模式
cut/cut_for_search 返回 generator
lcut/lcut_for_search 返回 list
为print更清晰 易于比较 使用 str.ljust()/center()/rjust()函数实现输出的字符串左对齐、居中、右对齐
default = jieba.cut('在南京市长江大桥研究生命的起源他来到了网易杭研大厦') # 默认模式 默认cut_all=False, HMM=True
hmm = jieba.cut('在南京市长江大桥研究生命的起源他来到了网易杭研大厦', cut_all=False, HMM=True)
accurate = jieba.cut('在南京市长江大桥研究生命的起源他来到了网易杭研大厦', cut_all=False, HMM=False) # 精确模式
full = jieba.cut('在南京市长江大桥研究生命的起源', cut_all=True) # 全模式
search = jieba.cut_for_search('在南京市长江大桥研究生命的起源') # 搜索引擎模式
default_list = jieba.lcut('在南京市长江大桥研究生命的起源') # 返回list
search_list = jieba.lcut_for_search('在南京市长江大桥研究生命的起源')
# jieba.Tokenizer(dictionary=) # 新建分词器
print('default'.rjust(