python学习笔记——jieba库入门
python学习笔记——jieba库入门
一、查找官方文档
https://pypi.org/project/jieba/
二、介绍
jieba(中文意思是“结巴”)中文文本切分:打造成最好的Python中文分词模块。
支持四种分词模式:
精确模式,试图将句子最精确地切开,适合文本分析;
全模式,把句子中所有的可以成词的词语都扫描出来, 速度非常快,但是不能解决歧义;
搜索引擎模式,在精确模式的基础上,对长词再次切分,提高召回率,适合用于搜索引擎分词。
paddle模式,利用PaddlePaddle深度学习框架,训练序列标注(双向GRU)网络模型实现分词。同时支持词性标注。paddle模式使用需安装paddlepaddle-tiny,pip install paddlepaddle-tiny==1.6.1。目前paddle模式支持jieba v0.40及以上版本。jieba v0.40以下版本,请升级jieba,pip install jieba --upgrade 。PaddlePaddle官网
支持繁体分词
支持自定义词典
MIT 授权协议
三、主要功能
1.1前三种分词模式案例
import jieba
string = '中华人民共和国是一个伟大的国家'
#精确模式