Python之jieba中文分词库

jieba分词是Python中目前最受欢迎的中文分词库，他有许多特点，为了便于介绍直接引用官方介绍如下。

• 支持三种分词模式：

  • 精确模式，试图将句子最精确地切开，适合文本分析；
  • 全模式，把句子中所有的可以成词的词语都扫描出来，速度非常快，但是不能解决歧义；
  • 搜索引擎模式，在精确模式的基础上，对长词再次切分，提高召回率，适合用于搜索引擎分词。

• 支持繁体分词

• 支持自定义词典

• MIT 授权协议

jieba分词的原理是利用一个中文词库，确定汉字之间的关联概率，然后组成词组，形成分词结果，除了分词，用户还可以添加自定义的词组。

我们先来看一个最简单的代码示例：

jieba使用起来非常简单，核心的功能函数方法就是使用cut()方法来做分词处理。当然不仅仅是这一个方法，还有诸多cut方法，比如lcut()，lcut返回的是一个list，而刚才的cut返回的是一个Python生成器。cut和lcut的区别除了返回的结果不一样以外，还有一个重要的区别是cut的速度要略快于lcut可以详见官方文档。

# encoding=utf-8
import jieba

seg_list = jieba.cut("我来到北京清华大学", cut_all=True)
print("全模式: " + "/ ".join(seg_list))  # 全模式
# 输出如下：
# 全模式: 我/ 来到/