elasticsearch-jdbc 1.7.3 执行流程(一)

  • elasticsearch-jdbc启动方式
java \
    -cp "/opt/elasticsearch-jdbc/lib/*" \
    -Dlog4j.configurationFile=/opt/elasticsearch-jdbc/bin/log4j2.xml \
    org.xbib.tools.Runner \
    org.xbib.tools.JDBCImporter \
    /tmp/config.json
  • 执行org.xbib.tools.Runner的main方法
public static void main(String[] args) {
        try {
            Class clazz = Class.forName(args[0]); //获取org.xbib.tools.JDBCImporter类
            CommandLineInterpreter commandLineInterpreter = (CommandLineInterpreter) clazz.newInstance();
            InputStream in = args.length > 1 ? new FileInputStream(args[1]) : System.in; //获取config.json配置文件流
            commandLineInterpreter.reader("args", in).run(true); 执行JDBCImporter的run(boolean bootstrap)方法
            in.close();
        } catch (Throwable e) {
            e.printStackTrace();
            System.exit(1);
        }
        System.exit(0);
    }
  • JDBCImporter的run方法:
  prepare(); //初始化elasticsearch 客户端 创建索引
            futures = schedule(settings);//根据config来判断是否配置了定时任务。如何设置了,使用ScheduledThreadPoolExecutor定时执行
            if (!futures.isEmpty()) {
                logger.debug("waiting for {} futures...", futures.size());
                for (Future future : futures) {
                    try {
                        Object o = future.get();
                        logger.debug("got future {}", o);
                    } catch (CancellationException e) {
                        logger.warn("schedule canceled");
                    } catch (InterruptedException e) {
                        logger.error(e.getMessage(), e);
                    } catch (ExecutionException e) {
                        logger.error(e.getMessage(), e);
                    }
                }
                logger.debug("futures complete");
            } else {
                execute(); //否则就只执行一次
            }
  • execute方法实例化MetricSimplePipelineExecutor,并执行execute方法。而execute实质上执行的是JDBCImporter的call方法。
 public MeterMetric call() throws Exception {
        try {
            metric = new MeterMetric(5L, TimeUnit.SECONDS);
            Iterator<R> it = this;
            while (it.hasNext()) {
                R r = it.next();
                // add ourselves if not already done
                requestListeners.put(null, this); //添加当前类 JDBCImporter,JDBCImporter实现了PipelineRequestListener
                errorListeners.put(null, this);
                for (PipelineRequestListener<MeterMetric, R> requestListener : requestListeners.values()) {
                    try {
                        requestListener.newRequest(this, r); //执行newRequest方法,实质上执行的是JDBCImporter的process(Settings settings)方法
                    } catch (PipelineException e) {
                        for (PipelineErrorListener<MeterMetric, R, E> errorListener : errorListeners.values()) {
                            errorListener.error(this, r, (E) e);
                        }
                    }
                }
                metric.mark();
            }
            close();
        } finally {
            metric.stop();
        }
        return getMetric();
    }
  • JDBCImporter的process方法初始化StandardContext,并执行StandardContext的execute方法
public void execute() throws Exception {
        try {
            state = State.BEFORE_FETCH;
            beforeFetch();
            state = State.FETCH;
            fetch(); //抓取数据源的数据
        } finally {
            state = State.AFTER_FETCH;
            afterFetch();//将数据发送给es
            state = State.IDLE;
        }
    }
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
elasticsearch-jdbc是一个用于将关系型数据库中的数据导入到Elasticsearch中的工具。它是基于Java开发的,可以通过配置文件指定数据库连接信息和导入规则。你可以在以下链接中找到详细的参数配置信息: 要使用elasticsearch-jdbc,你需要下载相关的jar文件,包括elasticsearch-jdbc本身以及其依赖的jar文件。你可以在以下链接中找到elasticsearch-jdbc的jar文件: 此外,你还需要下载elasticsearch-6.7.1.jar、elasticsearch-core-6.7.1.jar和lucene-core-7.7.0.jar等相关的jar文件。 通过elasticsearch-jdbc,你可以定义数据源和目标索引等信息,并使用SQL语句来查询和筛选要导入的数据。然后,elasticsearch-jdbc会将查询结果转换为Elasticsearch的文档(document),并将其导入到指定的索引中。这样,你就可以通过Elasticsearch进行灵活的全文搜索和分析了。 总结一下,elasticsearch-jdbc是一个用于将关系型数据库中的数据导入到Elasticsearch的工具,你可以通过详细的参数配置来指定数据库连接和导入规则。你还需要下载相关的jar文件,包括elasticsearch-jdbc本身和其依赖的jar文件,以及elasticsearch-6.7.1.jar、elasticsearch-core-6.7.1.jar和lucene-core-7.7.0.jar等。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* *2* [elasticsearch-jdbc](https://blog.csdn.net/CHS007chs/article/details/80691511)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"] - *3* [JDBC 连接 ElasticSearch](https://blog.csdn.net/u014646662/article/details/89554631)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值