NLP自然语言处理：jieba中文处理入门与进阶（官方文档解读）

 

jieba就是非常好用的中文工具，是以分词起家的，但是功能比分词要强大很多。

官方介绍：https://github.com/455125158/jieba

import jieba
import jieba.posseg  #词性标注
import jieba.analyse #关键词提取

---

目录

1.基本分词函数与用法

1.1 添加用户自定义词典

2 关键词提取

2.1 基于 TF-IDF 算法的关键词抽取

2.2 关于TF-IDF 算法的关键词抽取补充

2.3 基于 TextRank 算法的关键词抽取

3 词性标注

4 并行分词

5  tokenize：返回词语在原文的起止位置

---

 

 

1.基本分词函数与用法

jieba.cut 以及 jieba.cut_for_search 返回的结构都是一个可迭代的生成器，可以使用 for 循环来获得分词后得到的每一个词语(unicode)

jieba.cut 方法接受三个输入参数:

• 需要分词的字符串
• cut_all 参数用来控制是否采用全模式
• HMM 参数用来控制是否使用 HMM 模型

jieba.cut_for_search 方法接受两个参数

• 需要分词的字符串
• 是否使用 HMM 模型。

该方法适合用于搜索引擎构建倒排索引的分词，粒度比较细

import jieba

seg_list = jieba.cut("我在学习自然语言处理", cut_all=True)
print （seg_list）
print("Full Mode: " + "/ ".join(seg_list))  # 全模式

seg_list = jieba.cut("我在学习自然语言处理", cut_all=False)
print("Default Mode: " + "/ ".join(seg_list))  # 精确模式

seg_list = jieba.cut("他毕业于上海交通大学，在百度深度学习研究院进行研究")  # 默认是精确模式
print(", ".join(seg_list))

seg_list = jieba.cut_for_search("小明硕士毕业于中国科学院计算所，后在哈佛大学深造")  # 搜索引擎模式
print(", ".join(seg_list))


<generator object cut at 0x10bbd91e0>
Full Mode: 我/ 在/ 学习/ 自然/ 自然语言/ 语言/ 处理
Default Mode: 我/ 在/ 学习/ 自然语言/ 处理
他, 毕业, 于, 上海交通大学, ，, 在, 百度, 深度, 学习, 研究院, 进行, 研究
小明, 硕士, 毕业, 于, 中国, 科学, 学院, 科学院, 中国科学院, 计算, 计算所, ，, 后, 在, 哈佛, 大学, 哈佛大学, 深造

 

1.1 添加用户自定义词典

很多时候我们需要针对自己的场景进行分词，会有一些领域内的专有词汇。

• 1.可以用 jieba.load_userdict(file_name) 加载用户字典，file_name 为文件类对象或自定义词典的路径
• 2.少量的词汇可以自己用下面方法手动添加：
  • 用 add_word(word, freq=None, tag=None) 和 del_word(word) 在程序中动态修改词典
  • 用 suggest_freq(segment, tune=True) 可调节单个词语的词频，使其能（或不能）被分出来。

print('/'.join(jieba.cut('如果放到旧字典中将出错。', HMM=True)))
jieba.suggest_freq(('中', '将'), Tru