jieba textrank关键词提取 python_Jieba库基本用法

关注上方蓝字关注我们

01

特点

(一)支持三种分词模式：

• 精确模式，试图将句子最精确地切开，适合文本分析；

• 全模式，把句子中所有的可以成词的词语都扫描出来，速度非常快，但是不能解决歧义；

• 搜索引擎模式，在精确模式的基础上，对长词再次切分，提高召回率。适合用于搜索引擎分词。

(二)支持繁体分词

(三)支持自定义分词

(四)MIT授权协议

02

主要功能

1.分词

• jieba.cut方法接受三个输入参数：需要分词的字符串；cut_all参数用来控制是否采用全模式；HMM参数用来控制是否使用HMM模型。

• jieba_cut_for_search方法接受两个参数：需要分词的字符串；是否使用HMM模型。该方法适合用于搜索引擎构建倒排索引的分词，粒度比较细。

• 待分词的字符串可以是unicode或UTF-8字符串、GBK字符串。注意：不建议直接输入GBK字符串，可能无法预料地错误解码成UTF-8

• Jieba.cut以及jieba.cut_for_search返回的结构都是一个可迭代的generator，可以使用for循环来获得分词后得到的每一个词语(unicode)，或者用jieba.lcut以及jieba.lcut_for_search直接返回list

• Jieba.Tokenizer(dictionary=DEFAULT_DICT)新建自定义分词器，可用于同时使用不同词典。Jieba.dt为默认分词器，所有全局分词相关函数都是该分词器的映射。

• Pseg.cut(str1)：词性标注，标注句子分词后每个词的词性

• Jieba.analysee.extract_tags(str1,2)：关键词提取，参数setence对应str1为待提取的文本，topk对应2为返回几个TF/IDF权重最大的关键词，默认为20

• Jieba.tokenize(test_sent)：Tokenize返回词语在原本的起始位置

代码示例

2.添加自定义词典

载入词典

• 开发者可以指定自己自定义的词典，以便包含jieba词库里没有的词。虽然jieba有新词识别能力，但是自行添加新词可以保证更高的效率。

• 用法：jieba.load_userdict(file_name)  file_name为文件类对象或自定义词典的路径

• 词典格式和dict.txt一样，一个词占一行；每一行分三部分：词语、词频(可省略)、词性(可省略)，用空格隔开，顺序不可颠倒。File_name若为路径或二进制方式打开额文件，则文件必须为UTF-8编码

• 词频省略时使用自动计算的能保证分出该词的词频。

例如

更改分词器(默认为jieba.dt)的tmp_dir和cache_file属性，可分别指定缓存文件夹及其文件名，用于受限的文件系统。

范例：

• 自定义词典：https://github.com/fxsjy/jieba/blob/master/test/userdict.txt

• 用法示例：https://github.com/fxsjy/jieba/blob/master/test/test_userdict.py

 之前：李小福/是/创新/办/主任/也/是/云/计算/方面/的/专家/

加载自定义词库后：李小福/是/创新办/主任/也/是/云计算/方面/的/专家/

调整词典

• 使用add_word(word,freq=None, tag=None)和del_word(word)可在程序中动态修改词典。

• 使用suggest_freq(segment, tune=True)可调节单个词语的词频，使其能(或不能)被分出来。

• 注意：自动计算的词频在使用HMM新词发现功能时可能无效。

代码示例：

• 通过用户自定义词典来增强歧义纠错能力——https://github.com/fxsjy/jieba/issues/14

3.关键词提取

基于TF-IDF算法的关键词提取

Import jieba.analyse

• Jieba.analyse.extract_tags(sentence, topK=20, withWeight=False, allowPOS=())

1. Sentence为带提取的样本

2. topK为返回几个TF/IDF权重最大的关键词，默认值为20

3. withWeight为是否一并返回关键词权重值，默认值为False

4. allowPOS仅包括指定词性的词，默认值为空，既不筛选

• jieba.analyse.TFIDF(idf_path=None)新建TFIDF实例，idf_path为IDF频率文件

代码示例(关键词提取)

https://github.com/fxsjy/jieba/blob/master/test/extract_tags.py

关键词提取所使用逆向文件频率(IDF)文本语料库可以切换成自定义语料库的路径

(1)用法：jieba.analyse.set_idf_path(file_name)   file_name为自定义语料库的路径

(2)自定义语料库示例：

  https://github.com/fxsjy/jieba/blob/master/extra_dict/idf.txt.big

(3)用法示例：

 https://github.com/fxsjy/jieba/blob/master/test/extract_tags_idfpath.py

关键词提取所使用停止词(Stop Words)文本语料库可以切换成自定语料库的路径

用法：jieba.analyse.set_stop_words(file_name) # file_name为自定义语料库的路径

(1)自定义语料库示例：https://github.com/fxsjy/jieba/blob/master/extra_dict/stop_words.txt

(2)用法示例：https://github.com/fxsjy/jieba/blob/master/test/extract_tags_stop_words.py

关键词一并返回关键词权重值示例

用法示例：https://github.com/fxsjy/jieba/blob/master/test/extract_tags_with_weight.py

基于TextRank算法的关键词抽取

• Jieba.analyse.textrank(sentence, topK=20, withWeight=False, allowPOS=(‘ns’, ‘n’, ‘v’))直接使用，接口相同，注意默认过滤词性。

• Jieba.analyse.TextRank()新建自定义TextRank实例

算法论文：TextRank: Bringing Order into Texts

基本思想：

• 将待抽取关键词的文本进行分词

• 以固定窗口大小(默认为5，通过span属性调整)，词之间的共现关系，构建图

• 计算图中节点的pageRank，注意是无向带权图

4.词性标注

• Jieba.posseg.POSTokenizer(tokenizer=None)新建自定义分词器，tokenizer参数可指定内部使用的jieba.Tokenizer分词器。Jieba.posseg.dt为默认词性标注分词器。

• 标注句子分词后每个词的词性，采用和ictclas兼容的标记法

• 用法示例：

5.并行分词

• 原理：将目标文本按行分隔后，把各行文本分配到多个python进程并行分词，然后归并结果，从而获得分词速度的客观提升

• 基于python自带的multiprocessing模块，目前暂不支持Windows

• 用法：

1. Jieba.enable_parallel(4)  开启并行分词模式，参数为并行进程数

2. Jieba.disable_parallel()   关闭并行分词模式

例子：https://github.com/fxsjy/jieba/blob/master/test/parallel/test_file.py

实验结果：在4核3.4GHz Linux机器上，对金庸全集进行精确分词，获得了1MB/s的速度，单是进程版的3.3倍。

注意：并行分词仅支持默认分词器jieba.dt和jieba.posseg.dt。

6.Tokenize：返回词语在原文的起止位置

• 注意：输入参数只接受unicode

• 默认模式

7.ChineseAnalyzer for Whoosh 搜索引擎

• 引用：form jieba.analyse import ChineseAnalyzer

• 用法示例：https://github.com/fxsjy/jieba/blob/master/test/test_whoosh.py

8.延迟加载机制

Jieba采用延迟加载，import jieba和jieba.Tokenizer()不会立即触发词典的加载，一旦有必才开始加载词典构建前缀字典。如果你想手工初始jieba,也可以手动初始化。

数据帮club

文字来源|周载欢

图片来源|周载欢

编辑|张曦月

审核|董彦希