jieba分词

在命令行输入 pip intall jieba安装jieba第三方库

jieba是优秀的中文分词第三方库,需要额外安装

提供三种分词模式

原理:

利用一个中文词库,确定汉字之间的关联概率

汉字之间概率大的组成词语,形成分析结果

除了分词,用户还可以添加自定义的词组

函数 
jieba.lcut(s)

j精确模式,返回一个列表类型的分词结果,没有冗余

>>>jieba.lcut("我喜欢学习")

>>>['我','喜欢','学习']

jieba.lcut(s,cut_all=True)全模式,返回一个列表类型的分词结果,存在冗余>>> jieba.lcut("中国是一个伟大的国家",cut_all=True)
['中国', '国是', '一个', '伟大', '的', '国家']
jieba.lcut_for_search(s)搜索引擎模式,返回一个列表类型的分词结果,存在冗余(会把较长字符再次分词)
jieba.add_word(w)向分词词典中增加新词w
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值