solr使用dataimporter.request的参数实现增量导入

一、${dih.delta.id}和${dataimporter.last_index_time}实现的solr增量导入

该增量导入方式,当数据库时间慢于solr服务器时间,会导致增量导入的数据缺少记录;会发出N+1条sql,效率低。

1、 配置

1) 需要导入的表结构
create table SOLRTEST
(
  ID         number,
  EMP_NAME   VARCHAR2(100),
  CREATETIME DATE

)

2)     solr配置

i)   创建索引库

     ${solr.home}\bin\solr.cmdcreate -c solrtest

ii)  配置${solr.home}\server\solr\solrtest\conf\managed-schema文件

配置中文分词器

<fieldType name="solr_cnAnalyzer" class="solr.TextField" positionIncrementGap="100">
    		<analyzer type="index">
		  <tokenizer class="org.apache.lucene.analysis.cn.smart.HMMChineseTokenizerFactory"/>
		</analyzer>
		<analyzer type="query">
		  <tokenizer class="org.apache.lucene.analysis.cn.smart.HMMChineseTokenizerFactory"/>
		</analyzer>
</fieldType>

配置索引字段

<field name="empName" type="solr_cnAnalyzer" indexed="true" stored="true" required="true" multiValued="false" />
<field name="createtime" type="pdate" indexed="true" stored="true" required="true" multiValued="false" />


iii) 指定dataImportHandler的数据源配置文件,${solr.home}\server\solr\solrtest\conf\solrconfig.xml文件中添加:

	<requestHandler name="/dataimport" class="solr.DataImportHandler">  
		<lst name="defaults">  
			<str name="config">./data-config.xml</str>  
		</lst>  
	</requestHandler>创建${solr.home}\server\solr\solrtest\conf\data-config.xml,并配置:

iv)     创建${solr.home}\server\solr\solrtest\conf\data-config.xml,并配置:

<?xml version="1.0" encoding="UTF-8" ?>  
<dataConfig>   
<dataSource type="JdbcDataSource"   
     
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值