Solr 4.x定时、实时增量索引 - 修改、删除和新增索引

最新推荐文章于 2022-12-07 14:53:03 发布

麦克是个程序员

最新推荐文章于 2022-12-07 14:53:03 发布

阅读量634

点赞数

分类专栏：检索文章标签： solr

检索专栏收录该内容

52 篇文章 0 订阅

订阅专栏

开始之前，可以参考上篇博文全量索引-数据导入并索引：

http://josh-persistence.iteye.com/admin/blogs/2017059

Solr增量索引配置

一、开始增量索引前的准备工作。

1、认识data-config.xml中相关属性

注意这个query只返回ID字段

 注意这个只返回ID字段

最主要的是我们要知道这样一个事实：

1) last_index_time是DataImportHandler的一个默认字段，（可查看conf目录下的dataimporter.properties文件）

2) 我们可以在任何SQL中引用，该字段用于表明上次做full import或者是delta import(增量导入）的最后一次时间。

2、数据库配置注意事项

1）、如果只涉及添加与修改业务，那么数据库里只需添加一个类型为timpstamp，默认值为当前系统时间的字段：CURRENT_TIMESTAMP（mysql）

2）、如果还涉及删除业务，那么数据里就需额外再多添加一个字段isdelete，int类型的用0,1来标识，此条记录是否被删除，当然也可以用其他字段标识，ture或false都可以

3、dataimporter.properties / {corename}_dataimporter.properties

在C:\solr-tomcat\solr\item\conf中查看是否存在文件dataimporter.properties,如果没有，则新建该文件。

这个配置文件很重要，它是用来记录索引的最新一次修改时间的，通过该配置文件可以找出新增的、修改的或者删除的记录。相关实例：

在data-config中添加如下配置信息。

    Java代码   
    
  
 <dataConfig>      
    <!--- 此段话配置的是一个MySQL的数据源，（数据源也可以配置在solrconfig.xml中）  --->  <dataSource name="activityDB" type="JdbcDataSource" driver="com.mysql.jdbc.Driver" url="jdbc:mysql://localhost/test" user="swang6" password="swang6"/>    
        <document>            
           <entity pk="ID"  dataSource="activityDB" name="myentity"  
             query="select * from myentity WHERE isdelete=0"    
          deltaQuery="select ID  from myentity where my_date >'${dih.last_index_time}'"    
             deletedPkQuery="select ID from myentity where isdelete=1"  
             deltaImportQuery="select * from myentity where ID='${dih.delta.id}">    
             
           <!--  ID指定大写的，与上面语句中的对应起来---->         
           <field column="ID" name="id"/>    
           <field column="name" name="name"/>    
           <field column="address" name="address"/>    
           <field column="age" name="age"/>    
           <field column="my_date" name="my_date"/>    
           <field column="isdelete" name="isdelete"/>    
   
         </entity>  
    </document>  
 </dataConfig>  

说明：

    Java代码   
    
  
 <!-- pk="ID" 必须，因为其中的增量索引查询主键ID时需要  -->    
              
            <!--  dataSource="acitvityDB" 这个引用名字是引用上面数据源的名字 -->    
              
            <!--  name="myentity" 存在多个实体时，这个名字必须唯一 -->    
              
            <!--  query：用于全量导入而非增量导入  
            query="select * from myentity WHERE isdelete=0    
            query查询是指查询出表里所有的符合条件的数据，因为我测试的有删除业务，所以    
            where后面有一个限定条件isdelete=0，意思为查询未被删除的数据      
            -->   
   
           <!--  deltaQuery ： 用于增量导入且只返回ID  
              deltaQuery="select ID  from myentity where my_date >  
                  '${dih.last_index_time}'"    
              deltaQuery的意思是，查询出所有经过修改的记录的ID    
              可能是修改操作，添加操作，删除操作产生的     
           -->    
   
          <!--  deletedPkQuery : 用于增量导入且只返回ID  
           deletedPkQuery="select ID from myentity where isdelete=1"      
           此操作只查询那些数据库里伪删除的数据的ID（即isdelete标识为1的数据）    
           solr通过它来删除索引里面对应的数据   
          -->   
             
          <!--  deltaImportQuery： 增量导入起作用，可以返回多个字段的值,一般情况下，都是返回所有字段的列  
        deltaImportQuery="select * from myentity where ID='${dih.delta.ID}'"  
       deltaImportQuery查询是获取以上两步的ID，然后把其全部数据获取，根据获取的数据    
        对索引库进行更新操作，可能是删除，添加，修改          
       -->  