数据全量、增量、比较更新

【实验目的】
1.利用Kettle的“表输入”,“表输入出”,”JavaScript代码”组件,实现数据全量更新。
2.熟练掌握“JavaScript代码”,“表输入”,“表输入出”组件的使用,实现数据全量更新。

【实验原理】
通过“表输入”对MySQL表格的数据读入,然后通过“JavaScript代码”更新抽取数据的时间,再通过“表输入出”保存表格到MySQL数据库。

【实验环境】
操作系统:Windows10 
Kettle版本:7.1.0.0
jdk版本:1.8.0及以上版本

【实验步骤】

一、建立转换

双击spoon.bat打开kettle。(1)点击新建按钮,在下拉菜单中点击选择"转换"即可创建;(2)然后点击"保存"重命名该转换文件,保存在某个指定的路径;(3)选择输入步骤、输出步骤和跳。
在这里插入图片描述

二、各组件的配置

1.使用Navicat向数据库mysql导入数据表:‘课程信息表’,导入结果如下:
在这里插入图片描述

2.“表输入”的配置:
Step1:双击‘表输入’组件,新建数据库的连接并进行测试,
在这里插入图片描述

Step2:连接成功后,获取表的字段名称
在这里插入图片描述

2.“JavaScript代码”的配置:
双击“HTTP client”组件,编写Script1的代码,并获取其相应字段名称和类型。
在这里插入图片描述

3.“表输出”的配置:
双击‘表输出’组件,选择目标表的名称,并使用SQL语句进行创建:
在这里插入图片描述

4.“表输出2”的配置:
双击‘表输出2’组件,选择目标表的名称,并使用SQL语句进行创建:
在这里插入图片描述

三、执行转换

点击按钮,执行转换,结果如下:
在这里插入图片描述

四、实验结果:

输入文件‘课程信息表.xlsx’:
在这里插入图片描述

输出文件‘test4_tableout’:
在这里插入图片描述

输出文件‘test4_tableout2’:
在这里插入图片描述

五、实验中遇到的困难:

表输入和表输出的数据库连接前后要一致(实验过程中,因不经意间改变了表输入步骤的数据库连接名称,致使表输出一直报错)

六、实验总结

本次试验主要是通过一个表输入,两个表输出来实现数据全量更新。一条经过JavaScript代码的处理,在数据表里添加表输出时的时间字段,另一条直接进行表输出,这两条过程的输出结果形成一个对比,实现数据的比较更新。

附 件:

在这里插入图片描述

评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值