分词工具使用系列——jieba使用

分词工具使用系列

第一章 sentencepiece使用
第二章 jieba工具使用

---

---

一、Jieba工具是什么

“结巴”中文分词：做最好的 Python 中文分词组件，支持的是中文的分词，包含繁体中文
Jieba工具github链接

支持四种分词模式：

• 精确模式，试图将句子最精确地切开，适合文本分析；
• 全模式，把句子中所有的可以成词的词语都扫描出来, 速度非常快，但是不能解决歧义；
• 搜索引擎模式，在精确模式的基础上，对长词再次切分，提高召回率，适合用于搜索引擎分词。
• paddle模式，利用PaddlePaddle深度学习框架，训练序列标注（双向GRU）网络模型实现分词。同时支持词性标注。

根据字典进行分词算法原理（区别一下分词构建词库的算法原理）

• 基于前缀词典实现高效的词图扫描，生成句子中汉字所有可能成词情况所构成的有向无环图 (DAG)
• 采用了动态规划查找最大概率路径, 找出基于词频的最大切分组合
• 对于未登录词，采用了基于汉字成词能力的 HMM 模型，使用了 Viterbi 算法

二、jieba分词和sentencepiece的区别

• jieba分词工具的侧重点在于分词，不提供字典生成功能，需要自己通过别的方法构建字典，jieba本身也携带一个字典。jieba额外提供了一些词性识别，文本关键词抽取（TF-IDF）的方法。一般是用来做中文的关键词抽取进行搜索,文本预处理等，类似于实体识别的功能。
• sentencepiece提供了分词词库构建和利用词库进行分词的功能，适用于深度学习模型的构建前做数据预处理

三、如何使用jieba工具

# encoding=utf-8
import jieba

jieba.enable_paddle()# 启动paddle模式。 0.40版之后开始支持，早期版本不支持
strs=["我来到北京清华大学","乒乓球拍卖完了","中国科学技术大学"]
for str in strs:
    seg_list = jieba.cut(str,use_paddle=True) # 使用paddle模式
    print("Paddle Mode: " + '/'.join(list(seg_list)))

seg_list = jieba.cut("我来到北京清华大学", cut_all=True)
print("Full Mode: " + "/ ".join(seg_list))  # 全模式

seg_list = jieba.cut("我来到北京清华大学", cut_all=False)
print("Default Mode: " + "/ ".join(seg_list))  # 精确模式

seg_list = jieba.cut("他来到了网易杭研大厦")  # 默认是精确模式
print(", ".join(seg_list))

seg_list = jieba.cut_for_search("小明硕士毕业于中国科学院计算所，后在日本京都大学深造")  # 搜索引擎模式
print(", ".join(seg_list))