IK分词器扩展词典、停用词典、同义词典

1.扩展词典

        扩展词:就是不想哪些词分开,让他们成为一个词,比如“哈利波特”

自定义扩展词库

进入到elasticsearch的conf/analysis-ik/目录下,新增扩展词典

vim zyp_exct_dict.dic

然后添加“哈利波特”

将我们自定义的扩展词典文件添加到IKAnalyzer.cfg.xml配置中

IKAnalyzer.cfg.xml在elasticsearch的conf/analysis-ik/目录下

 然后重启elasticsearch,执行最细粒度的拆分就会出现哈利波特

没有将“哈利波特”放到扩展词典前

将“哈利波特”放到扩展词典,并重启elasticsearch服务之后

 可以看到出现了“哈利波特”

2.停用词典

        停用词:有些词在文本中出现的频率非常高。但对本文的语义产生不了多大的影响。例如英文的a、 an、theof等。或中文的的、了、呢等。这样的词称为停用词。停用词经常被过滤掉,不会被进行索引。在检索的过程中,如果用户的查询词中含有停用词,系统会自动过滤掉。停用词可以加快索引的速度,减少索引库文件的大小。

自定义停用词库

进入到elasticsearch的conf/analysis-ik/目录下,新增停用词典

vim zyp_stop_dict.dic

然后添加 “的” “了” “啊”

将我们自定义的停用词典文件添加到IKAnalyzer.cfg.xml配置中

IKAnalyzer.cfg.xml在elasticsearch的conf/analysis-ik/目录下

 

 然后重启elasticsearch,执行最细粒度的拆分,被添的“的”“了”“啊”就不会被查出来

没有讲“的”放到停用词典之前

将“的”放到停用词典并重启elasticsearch之后 

 可以看到“的”没有了

3.同义词典

        同义词:意思相同的,“番茄”和“西红柿”,查询“番茄”的时候,把带有“西红柿”的数据一起查出来,这种叫做同义词查询

配置IK同义词

进入到elasticsearch的conf/analysis-ik/目录下,创建名为synonym.txt的文件

输入同义词,并保存

番茄,西红柿,柿子

土豆,马铃薯

然后重启elasticsearch会自动加载相近词

创建索引

插入文档

然后查询数据,比如“番茄和马铃薯都是特产”

然搜索“土豆”,会命中

 

  • 1
    点赞
  • 8
    收藏
    觉得还不错? 一键收藏
  • 2
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值