kettle 通过配置文件实现 跨数据库 增量同步表数据

本文档介绍了一种使用Kettle通过配置文件实现跨数据库增量同步表数据的方法,详细阐述了需求背景、分析、操作步骤及可能遇到的问题。涉及到的关键步骤包括设置变量、读取配置文件、循环同步和更新日志记录。最后展示了同步结果,并提醒了关于日期格式转换和变量引用的注意事项。
摘要由CSDN通过智能技术生成

一、需求背景

将数据库ORA中的ACCOUNT、OWNERS表增量迁移到数据库ORA2的ACCOUNT_KETTLE、OWNERS_KETTLE表中。

(增量迁移指:仅更新上次同步时间至今所新增的数据,非重新更新全部数据)

 二、分析

本次是在单表增量同步上多加了“配置文件、设置多个变量、循环”的步骤

配置文件、设置变量 指:事先将需求表相关信息记录在excel表中,目的是将相关表信息设置为变量便于做循环同步

相关信息有:目标数据表名、源数据表名、主键、同步表名、时间键、有效键

 循环包括三大部分:获取每个表上一次更新成功的时间、同步新增每个表数据、更新每个表同步的日志记录

三、总体路径

大job路径

小job路径(2-同步表的增量数据)

 

四、步骤

1、 获取表信息并复制到结果

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值