一起来看看Solr全量更新和增量更新的那些事

1.背景

数据如果保留多份，就会存在一致性问题，就需要同步，同步分为两大类：全量和增量

2. 概述

数据如果要保留副本，要么同时写（就是多写），或者进行复制：异步写（即从主数据拷贝到副本）；

同时写（多写），引出一个问题，写多少节点算成功（场景：分布式系统）？全部写成功才算成功，还是写大多数成功算成功，还是写指定几个节点算成功？

异步写的话，如果采用异步复制，那么实时性需要考量的话，就需要采用性能优先的架构。

3.同步方式

数据同步一般分为两种方式：全量和增量。

3.1 全量

全量，这个很好理解。就是每天定时（避开业务高峰期）或者周期性全量把数据从一个地方拷贝到另外一个地方；

全量的话，可以采用直接全部覆盖（使用“新”数据覆盖“旧”数据）；或者走更新逻辑（覆盖前判断下，如果新旧不一致，就更新）；

这里面有一个隐藏的问题：如果采用异步写，主数据物理删除了，怎么直接通过全量数据同步？这就需要借助一些中间操作日志文件，或者其他手段，把这些“看不到”的数据记录起来。

下图便是全量更新：

3.2 增量

增量的基础是全量，就是你要使用某种方式先把全量数据拷贝过来，然后再采用增量方式同步更新。

增量的话，就是指抓取某个时刻（更新时间）或者检查点（checkpoint）以后的数据来同步，不是无规律的全量同步。这里引入一个关键性的前提：副本一端要记录或者知道（通过查询更新日志或者订阅更新）哪些更新了。

3.2.1.首先要弄懂几个必要的属性，以及数据库建表事项，和dataimporter.properties 、data-config.xml里面的数据

  <!--  transformer 格式转化：HTMLStripTransformer 索引中忽略HTML标签   --->
  <!--  query:查询数据库表符合记录数据   --->
  <!--  deltaQuery:增量索引查询主键ID    --->    注意这个只能返回ID字段
  <!--  deltaImportQuery:增量索引查询导入数据  --->
  <!--  deletedPkQuery:增量索引删除主键ID查询  ---> 注意这个只能返回ID字段
  

3.2.2.数据库配置注意事项

1.如果只涉及添加，与修改业务，那么数据库里只需额外有一个timpstamp字段
就可以了，默认值为当前系统时间，CURRENT_TIMESTAMP
2.如果还涉及删除业务，那么数据里就需额外再多添加一个字段isdelete，int类型的
用0,1来标识，此条记录是否被删除

3.2.3.dataimporter.properties

这个配置文件很重要，它是用来记录当前时间与上一次修改时间的，通过它能够找出，那些，新添加的，修改的，或删除的记录标识，此条记录是否被删除的记录

3.2.4.增量更新就是在全量更新的基础上加上一些配置，data-config.xml配置如下：

原配置：

<?xml version="1.0" encoding="UTF-8"?>
<dataConfig> 
	<!-- mysql mydb -->
    <dataSource type="JdbcDataSource"
				name="mydb"
                driver="com.mysql.jdbc.Driver"
                url="jdbc:mysql://127.0.0.1:3306/mydb?charactorEncoding-utf-8"
                user="root"
                password="123456"/>
    <document> 
        <entity name="employee" dataSource="mydb" query="select * from tb_employee" pk="id">
			<field column="id" name="id"/>
			<field column="employee_name" name="name_ik"/>
			<field column="employee_age" name="age_i"/>
			<field column="employee_gender" name="gender_s"/>
			<field column="department_id" name="department_i"/>
			<field column="createTime" name="createTime_s"/>
			<field column="updateTime" name="updateTime_s"/>
		</entity>
    </document> 
</dataConfig>

增量更新配置：

<?xml version="1.0" encoding="UTF-8"?>
<dataConfig>
<!-- mysql mydb -->
    <dataSource type="JdbcDataSource"
				name="mydb"
                driver="com.mysql.jdbc.Driver"
                url="jdbc:mysql://127.0.0.1:3306/mydb?charactorEncoding-utf-8"
                user="root"
                password="123456"/>
    <document>
        <entity name="employee" dataSource="mydb" query="select * from tb_employee" 
        deltaImportQuery ="select * from tb_employee e where e.id='${dataimport.delta.id}'"
        deltaQuery = "select * from tb_employee e where t.updateTime='${dataimport.last_index_time}'"
        deletedPkQuery = "select id from tb_employee"
        pk="id">
			<field column="id" name="id"/>
			<field column="employee_name" name="name_ik"/>
			<field column="employee_age" name="age_i"/>
			<field column="employee_gender" name="gender_s"/>
			<field column="department_id" name="department_i"/>
			<field column="createTime" name="createTime_s"/>
			<field column="updateTime" name="updateTime_s"/>
		</entity>
    </document>
</dataConfig>

<!--  下面分别来介绍属性（如有错误，欢迎指出） -->
             <!--  pk="ID" 这个很有必要，因为其中的增量索引查询主键ID时需要  -->
              <!--  dataSource="mydb"   这个引用名字是引用上面数据源的名字 -->
              <!--  name="myinfo"   这个名字必须唯一，存在多个实体时 -->
               <!--  query="select  *  from myinfo WHERE isdelete=0   query查询是指
               查询出表里所有的符合条件的数据，因为笔者测试的有删除业务，所以
               where  后面有一个限定条件isdelete=0，意思为查询未被删除的数据
               
               (注意这个query查询只对第一次全量导入有作用，对增量导入不起作用)
               -->
               <!--
               deltaQuery="select productId from product where modifyTime > '${dataimporter.last_index_time}'"
               deltaQuery的意思是，查询出所有经过修改的记录的ID
               可能是修改操作，添加操作，删除操作产生的
               (此查询只对增量导入起作用，而且只能返回ID值)
               -->
               <!--
               deletedPkQuery="select productId from product where isdelete=-1" 
               此操作值查询那些数据库里伪删除的数据的ID（即isdelete标识为-1的数据）
               solr通过它来删除索引里面对应的数据
               (此查询只对增量导入起作用，而且只能返回ID值)
               -->
               <!--
                deltaImportQuery="select * from product where productId = '${dih.delta.productId}'"
                次查询是获取以上两步的ID，然后把其全部数据获取，根据获取的数据
                对索引库进行更新操作，可能是删除，添加，修改
                (此查询只对增量导入起作用，可以返回多个字段的值,一般情况下，都是返回所有字段的列)
               -->

3.2.5.通过后台管理手动增量更新和通过浏览器手动更新

3.3.1 确定更新点

采用更新时间戳、有的采用checkpoint等来标识和记录更新点。