使用jieba维护自定义词、停用词表

本文介绍了如何使用jieba分词库进行自定义词的添加与删除,并讲解了停用词过滤的实现,通过自定义词典和停用词表提升分词效果。主要涉及方法包括文件操作和手动维护。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

对于文本处理来说,好的分词结果,是一切开始的基础。下面结合我的使用,简要说说使用jieba分词,如何添加、删除自定义词,以及使用停用词表,方便自己以后查阅。

1 维护自定义词

1.1 添加自定义词

方法一:

import jieba
jieba.add_word("自定义词1")
jieba.add_word("自定义词2")

方法二:

方法一需要我们手动一个个添加,当自定义词较多时,我们可以用下面的方法:

import jieba
jieba.load_userdict(file_name) 

其中, file_name 为文件类对象或自定义词典的路径,词典格式和 dict.txt 一样,一个词占一行;每一行分三部分:词语、词频(可省略)、词性(可省略),用空格隔开,顺序不可颠倒。file_name 若为路径或二进制方式打开的文件,则文件必须为 UTF-8 编码。
词频省略时使用自动计算的能保证分出该词的词频

评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值