IK分词器

简介:IK分词器是常见的一种中文分词器,可以智能分析中文词汇,可以做到 扩展词汇,停用(语气词,助词类似这种无关紧要的词语可
以在停用词典中禁止分词)

使用ik分词器

1依赖,maven中央库没有dependency;手动添加依赖,利用maven将依赖添加到本地库,也可以在测试时将jar包放到工程中
手动添加–build-path jar包,课前资料–lucene–IK分词器–jar 包
24.0版本之后的IK分词器为了实现解耦和自定义流的属性等 问题,需要自行完成analyzer,tokenizer等代码;
可以使用已经编写好的Ikanalyzer 课前资料–lucene–IK实现类
3测试使用

IK分词器的扩展词典和停用词典设置

需要配置文件制定扩展词典和停用词典

IKAnalyzer.cfg.xml
<properties>
<comment>IK Analyzer 扩展配置</comment>
< !--用户可以在这里配置自己的扩展字典
<entry key="ext_dict">ext.dic;</entry>
-->
< !--用户可以在这里配置自己的扩展停止词字典-->

<entry key="ext_stopwords"> stopword.dic;</entry>
</properties>

ext.dic扩展词典和stopwords.dic停用词典,必须在同一个文 件夹下,当前工程的加载文件默认相对路径(maven工程中,添加到target/classes)

注意:如果想要配置文件的扩展词典和停用词典生效
1扩展词典停用词典的编码格式要和字符串的编码格式 一致
2一定要被工程加载(被加载成功的话会答应ik标识)

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值