solr 同步mysql_Solr 同步mysql数据

本文介绍了如何使用Solr进行MySQL数据的增量导入,并设置了定时任务以实现自动增量更新。首先,需要在数据库中添加一个时间戳字段以便追踪变化。然后,在data-config.xml中配置增量导入相关的SQL查询。测试增量导入后,通过添加apache-solr-dataimportscheduler-1.0.jar到Solr的lib目录,并修改web.xml,创建dataimport.properties文件来设置定时任务,实现了每2分钟自动执行一次增量导入。
摘要由CSDN通过智能技术生成

问题导读

1、如何增量导入MYSQL数据库中的数据?

2、如何设置定时导入数据来做?

3、我们怎样测试增量导入?

00b6bcbc02b928b436cd7bd45240dc9c.png

本文接上一篇:Solr学习(四)DIH全量导入并索引数据

(一)引言:

前面我的文章 DIH全量导入 中已经学会了如何全量导入Oralce和MySQL的数据,大家都知道全量导入在数据量大的时候代价非常大,一般来说都会适用增量的方式来导入数据,下面介绍如何增量导入MYSQL数据库中的数据,以及如何设置 定时来做。

下面介绍的所有操作都是基于前面已经完成的全量导入的基础上来做的。

(一)DIH增量从MYSQL数据库导入数据:

1、数据库表的更改:

前面已经创建好了一个UserInfo的表,这里为了能够进行增量导入,需要新增一个字段,类型为TIMESTAMP,默认值为CURRENT_TIMESTAMP。

6ad390f4645203eecf04d636536a4c10.png

有了这样一个字段,Solr才能判断增量导入的时候,哪些数据是新的。

因为Solr本身有一个默认值last_index_time,记录最后一次做full import或者是delta import(增量导入)的时间,这个值存储在文件conf目录的dataimport.properties文件中。

2、data-config.xml中必要属性的设置:

    注意这个只能返回ID字段

注意这个只能返回ID字段

有关“query”,“deltaImportQuery”, “deltaQuery”的解释,引用官网说明,如下所示:

The query gives the data needed to populate fields of the Solr document in full-import

The deltaImport

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值