关于ik分词器,修改自定义返回tokens的type值实现

需求目的:
es的ik分词器能够根据自定义的分词库对输入的关键词进行分词,但是不能够像jieba分词一样返回分词后的词性,一些需求可能除了需要分词外还需要知道词的词性来进行后续的业务处理,就需要自定义ik分词器返回的结果词的词性。

实现原理:
在es分词的返回结果中,有一个type字段,这个字段通常会用来返回该词的一些类别,如是否是中文分词,还是英文分词,或者是数量词。但是有些时候这些分词可能还不能够满足业务的需要,所以就需要对这这个type进行自定义返回。如在分词库中自定义了分词为“万福”,然后为其添加一个属性为地点“TYPE_PLACENAME”,那么在输入的文本中有带有万福的分词,type返回就会为自定义的TYPE_PLACENAME。

在这里插入图片描述

实现过程:
通过修改ik分词库源码的方式来实现,以及本次的实现基于读取的是远程mysql的分词库。ik实现远程读取mysql分词库的方式可参照我的上一篇文章

ik源码下载地址:https://github.com/medcl/elasticsearch-analysis-ik 根据自行的es版本 更改pom版本号为对应版本

ps:为了方便理解,图片可能较多

(1)打开源码,通过分词器上下文类AnalyzeContext可以知道,其中最终的分词结果集,存储在Lexeme。

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值