solr增量导入数据 【二】

当数据库中的数据被修改时,且有一个字段(如:update_date)记录最新修改时间,此时需要更新solr索引中的数据

关键配置如下(db-data-config.xml):

<dataConfig>
 <dataSource type="JdbcDataSource" driver="com.mysql.jdbc.Driver" url="jdbc:mysql://192.168.1.200:3306/POINTS" user="points" password="points"/>
    <document name="merchant">
      <entity name="merchant" pk="merchantNo" query="select MERCHANT_NO,MERCHANT_NAME,MERCHANT_BRIEF,LOGO,SORT,IN_RATE,OUT_RATE,URL,OUT_INTF_URL,IN_INTF_URL,REDIRECT_URL,CREATE_DATE from merchant"
   deltaImportQuery="select MERCHANT_NO,MERCHANT_NAME,MERCHANT_BRIEF,LOGO,SORT,IN_RATE,OUT_RATE,URL,OUT_INTF_URL,
   IN_INTF_URL,REDIRECT_URL,CREATE_DATE from merchant where MERCHANT_NO='${dataimporter.delta.merchantNo}'"
   deltaQuery="select MERCHANT_NO merchantNo from merchant where update_date > '${dataimporter.last_index_time}'"
   deletedPkQuery="select MERCHANT_NO merchantNo from merchant where MERCHANT_NO='${dataimporter.delta.merchantNo}'">

               <field column="MERCHANT_NO" name="merchantNo" />
              <field column="MERCHANT_NAME" name="merchantName" />

              ..................

              ........

     </entity>
    </document>
</dataConfig>

 

deletedPkQuery: 只在“增量导入”中使用

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
要使用Python增量导入Oracle数据Solr,您需要遵循以下步骤: 1. 安装Solr和Python的相关库(如pysolr)。 2. 编写Python脚本,连接Oracle数据库并执行增量查询,将查询结果转换为Solr文档格式,并使用pysolr库将文档添加到Solr中。 3. 您可以使用定时任务(如cron)来定期运行Python脚本,以便进行增量导入。 下面是一个示例Python脚本,用于从Oracle数据库中查询并导入数据Solr: ``` import cx_Oracle import pysolr # Oracle数据库连接配置 dsn_tns = cx_Oracle.makedsn('localhost', '1521', 'XE') conn = cx_Oracle.connect(user='username', password='password', dsn=dsn_tns) cursor = conn.cursor() # Solr连接配置 solr = pysolr.Solr('http://localhost:8983/solr/mycore', timeout=10) # 查询增量数据 query = "SELECT * FROM mytable WHERE updated_at > :last_update" last_update = '2021-01-01 00:00:00' # 上次更新时间 cursor.execute(query, last_update=last_update) # 将查询结果转换为Solr文档格式 docs = [] for row in cursor: doc = { 'id': str(row[0]), 'title': row[1], 'content': row[2], 'updated_at': row[3].strftime('%Y-%m-%dT%H:%M:%SZ') } docs.append(doc) # 添加文档到Solr solr.add(docs) # 更新上次更新时间 last_update = datetime.now().strftime('%Y-%m-%d %H:%M:%S') # 关闭Oracle连接和Solr连接 cursor.close() conn.close() solr.commit() solr.close() ``` 此脚本将从Oracle数据库中查询更新时间大于上次更新时间的数据,并将查询结果转换为Solr文档格式。然后,使用pysolr库将文档添加到Solr中,并更新上次更新时间。您可以根据需要调整查询和文档格式。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值