kettle教程---通过配置表格配置实现数据的批量增量更新(实用)

14 篇文章 3 订阅
8 篇文章 2 订阅

本文接上篇文章,上面文章讲的是,通过配置文件的全量更新,现在说下增量更新

在这里插入图片描述

如上图所示,涉及到1个转换和1个作业。
1-表增量同步(转换)
在这里插入图片描述

可以通过读取同步表参数这个excel表格文件,获取表名称和同步的依赖对象(本文就是cjsj创建时间),同步成功后复制记录到结果
2-增量数据同步(作业)

在这里插入图片描述

我们右键点开如上图,包含了7个转换组成。
1)表数据同步设置(转换)

在这里插入图片描述

获取上个转换的记录,放到设置变量中。
2)表数据同步设置2(转换)

在这里插入图片描述

获取时间变量放入设置变量中
3)获取查询条件 (转换)

在这里插入图片描述

3.1)点开获取查询条件,写入查询条件,放入设置变量中

在这里插入图片描述

4)删除目标原始数据(转换)
删除目标库的原始数据,如下图,删除重复的数据

在这里插入图片描述

5)待插入数据同步(转换),转换点开后,如下图,显示了获取cjsj创建时间在日志表之后的数据,插入新表

在这里插入图片描述

6)保存同步日志(转换)

在这里插入图片描述
写入日志表。
这样就完成了表数据的增量更新,通过配置文件来配置相应的表数据,一个专业可以完成全量和增量的所有表的更新。

通过添加excel表的表名,实现一个调度任务,完成所有表的同步

欢迎关注公众号【大喇叭玩转数据库】,获取例子源码,学习kettle、数据库和开发方面的知识

  • 1
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

kettle教程学习

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值