es6 ik分词热更新MySQL_修改ES IK插件源码,配合MySQL实现词库热更新

本文介绍了如何修改ElasticSearch IKAnalyzer插件源码,以从MySQL数据库实现词库热更新,避免每次更新都要重启ES集群。通过监控MySQL表的改动,自动更新ES中的词典,简化了词库管理并提供了运营人员参与的可能性。详细过程包括MySQL建表、修改IK插件源码以使用JDBC连接、编写监控线程以及打包部署。
摘要由CSDN通过智能技术生成

ES IK词库热更新简介

在实际工作中,我们经常需要更新ElasticSearch中IKAnalyzer插件的自定义词库,以获得更好的中文分词和搜索效果。在默认情况下,每次更新之后都需要重启ES集群才能生效,极其不方便。因此IKAnalyzer官方也提供了一种热更新的方法,在其GitHub主页上写道:

38733c810855

在其源码内部对应的是Monitor类,实现了Runnable接口。我们采用的ES版本是2.3.2,对应IK插件版本为1.9.2。

public class Monitor implements Runnable {

public static ESLogger logger= Loggers.getLogger("ik-analyzer");

private static CloseableHttpClient httpclient = HttpClients.createDefault();

private String last_modified;

private String eTags;

private String location;

public Monitor(String location) {

this.location = location;

this.last_modified = null;

this.eTags = null;

}

/**

* 监控流程:

* ①向词库服务器发送Head请求

* ②从响应中获取Last-Modify、ETags字段值,判断是否变化

* ③如果未变化,休眠1min,返回第①步

* ④如果有变化,重新加载词典

* ⑤休眠1min,返回第①步

*/

public void run() {

RequestConfig rc = RequestConfig.custom().setConnectionRequestTimeout(10*1000)

.setConnectTimeout(10*1000).setSocketTimeout(15*1000).build();

HttpHead head = new HttpHead(location);

head.setConfig(rc);

if (last_modified != null) {

head.setHeader("If-Modified-Since", last_modified);

}

if (eTags != null) {

head.setHeader("If-None-Match", eTags);

}

CloseableHttpResponse response = null;

try {

response = httpclient.execute(head);

if(response.getStatusLine().getStatusCode()==200){

if (!response.getLastHeader("Last-Modified").getValue().equalsIgnoreCase(last_modified)

||!response.getLastHeader("ETag").getValue().equalsIgnoreCase(eTags)) {

Dictionary.getSingleton().reLoadMainDict();

last_modified = response.getLastHeader("Last-Modified")==null?null:response.getLastHeader("Last-Modified").getValue();

eTags = response.getLastHeader("ETag")==null?null:response.getLastHeader("ETag").getValue();

}

}else if (response.getStatusLine().getStatusCode()==304) {

//noop

}else{

Dictionary.logger.info("remote_ext_dict {} retur

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值