kettle 实现mysql单表增量同步

本文详细介绍了如何使用Kettle进行MySQL单表增量同步,包括获取上次同步时间、查询并新增数据到目标库以及记录本次同步时间的步骤。通过新建转换和作业,实现了定时运行和解决同步乱码问题。
摘要由CSDN通过智能技术生成

kettle 实现单表增量同步

实现增量同步整体分为三个步骤:(以mysql数据库为例,其他数据库同理,本人亲测可用,若有不足,欢迎留言指出

1、获取上次同步时间。

2、查询上次同步时间以外的数据,并新增到目标库中。

3、记录本次同步时间,为下次同步使用。

一、获取上次同步时间

新建同步时间记录表,记录每次同步的时间和同步结果,建表sql如下:

CREATE TABLE `kg_log` (
  `FD_OBJECTID` varchar(50) NOT NULL COMMENT '主键',
  `tbsj` datetime DEFAULT NULL COMMENT '同步时间',
  `bm` char(50) DEFAULT NULL COMMENT '表名',
  `result` char(50) DEFAULT NULL COMMENT '同步结果 1代表成功',
  PRIMARY KEY (`FD_OBJECTID`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8 COMMENT='同步时间记录表';

新建转换,命名为:1-获取上次同步时间,拖入表输入和设置变量,效果如下图:

  • 0
    点赞
  • 13
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 3
    评论
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

圈圈的博客

您的鼓励是我最大的动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值