mysql增量索引_solr dataImportHandler mysql增量索引

前一篇中全量索引的data-config.xml 的配置为

driver="com.mysql.jdbc.Driver"

url="jdbc:mysql://199.xxx.xxx.xxx/quentinxxz_com"

user="qqq"

password="qqq"/>

query="select id, price,modify_time from tts_product">

对应的增量索引的data-config.xml 的配置为

driver="com.mysql.jdbc.Driver"

url="jdbc:mysql://199.xxx.xxx.xxx/quentinxxz_com"

user="qqq"

password="qqq"/>

query="select id, price,modify_time from tts_product"

deltaImportQuery="select id, price,modify_time from tts_product where ID='${dih.delta.id}'"

deltaQuery="select id from tts_product where modify_time >'${dih.last_index_time}'">

在conf/dataimport.properties中会自动存储最近一次索引的时间，solr正是以此为依据实现增量。但是前提确保你的数据库表中有类似modify_time这样的字段，好与可以做对比。

${dih.last_index_time}为dataimport.properties中的last_index_time信息

${dih.delta.id}为deltaQuery所查询出来的主键id

conf/dataimport.properties中自动存储的信息

#Wed Jul 30 10:58:44 GMT+08:00 2014

last_index_time=2014-07-30 10\:58\:37

product.last_index_time=2014-07-30 10\:58\:37

query是获取全部数据的SQL

deltaImportQuery是获取增量数据时使用的SQL

deltaQuery是获取pk的SQL

parentDeltaQuery是获取父Entity的pk的SQL

注：从配置文件来看，增量的效率似乎很低，"select id, price,modify_time from tts_product where ID='${dih.delta.id}"给我们的感觉是每有一条纪录，就根据id去查一定数据库。其实不然，仔细查看dataImportHanlder的源码，会发现实际执行的sql语句已经做过处理了，DIH会将多个id进行组合，修改sql语句，再执行一次查询。