jieba 分词 用户自定义词典(即不想被分开的词)

本文介绍了jieba分词的原理,包括正则预处理、句子构造有向无环图及HMM模型的二次划分。讨论了三种分词模式:精确模式、全模式和搜索引擎模式,并给出了在Python中使用jieba分词的步骤,特别是如何使用用户自定义词典进行分词。
摘要由CSDN通过智能技术生成

jieba 分词简介:

jieba 对于一长段文字,其分词原理大体可分为三部:
1.首先用正则表达式将中文段落粗略的分成一个个句子。
2.将每个句子构造成有向无环图,之后寻找最佳切分方案。
3.最后对于连续的单字,采用HMM模型将其再次划分。

三种分词模式:

精确模式:试图将句子最精确地切开,适合文本分析;
全模式:把句子中所有的可以成词的词语都扫描出来, 速度非常快,但是不能解决歧义;
搜索引擎模式:在精确模式的基础上,对长词再次切分,提高召回率,适合用于搜索引擎分词;

使用python 分词:

首先导入所需要的库 jieba

import jieba

读取所需要分词的文件

file_needCut = 'file.csv' # 此处是所需要被分词的文件

读取文件

with open(file,'r',encoding='UTF-8') as f:
    for line in f.readlines():
      print(line)

对读取出来的句子分词

seg_list = jieba.cut(line,cut_all=False,HMM=True) #此处使用精确模式分词

如果需要使用用户自定义词典,按照如下格式加在分词之前:


                
  • 7
    点赞
  • 60
    收藏
    觉得还不错? 一键收藏
  • 19
    评论
评论 19
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值