《数据清洗》 第七章 数据加载

目录

1.现有两张数据表，分别为full_source和fulltarget，其中full_source为源数据表，full_target为目标数据表，数据表Full_source和full_target，使用Kettle工具，实现将full_source中的数据全量加载到数据表full_target中

1.1打开kettle工具，创建转换

1.2配置“执行SQL脚本”控件

1.3配置“表输入”控件

1.4配置“表输出 ”控件

1.5运行转换full_load

1.6查看数据表full_target中的数据

2.现有两张数据表，分别是increasemental_source和incremental_target，其中incremental_source为源数据表，incremental_target为目标数据表。数据表incremental_source和incremental_target的表结构、数据是相同的，通过kettle工具，实现将数据表incremental_source中的数据增量加载到数据表incremental_target中，即将数据表incremental_source中新增、变化的数据加载到数据表incremental_target中

2.1打开kettle工具，创建转换

 2.2配置“表输入”控件

2.3配置“插入/更新 ”控件

 2.4修改数据表incremental_source中的数据

2.5运行转换incremental_load

2.6查看数据表incremental_target中的数据

---

1.现有两张数据表，分别为full_source和fulltarget，其中full_source为源数据表，full_target为目标数据表，数据表Full_source和full_target，使用Kettle工具，实现将full_source中的数据全量加载到数据表full_target中

1.1打开kettle工具，创建转换

创建转换full_load，并添加“执行SQL脚本”控件，“表输入控件"，“表输出控件”，以及Hop连接线

1.2配置“执行SQL脚本”控件

双击执行SQL脚本控件，进入执行SQL语句界面，配置数据库连接

SQL框中编写删除数据表full_target中的数据的SQL语句 

1.3配置“表输入”控件

双击进入表输入控件，SQL框中编写查询数据表full_source数据的SQL语句，然后单击预览按钮，查看数据表full_source的数据是否成功从MysqL数据库中抽取到表输入流中

1.4配置“表输出 ”控件

双击图中的表输出控件，点击目标表处的浏览按钮，选择表输入界面，选择目标表级数据表full_target，这里不需要新的数据库连接，在数据库连接后的下拉列表中选择已创建数据库连接即可

1.5运行转换full_load

1.6查看数据表full_target中的数据

---

2.现有两张数据表，分别是increasemental_source和incremental_target，其中incremental_source为源数据表，incremental_target为目标数据表。数据表incremental_source和incremental_target的表结构、数据是相同的，通过kettle工具，实现将数据表incremental_source中的数据增量加载到数据表incremental_target中，即将数据表incremental_source中新增、变化的数据加载到数据表incremental_target中

2.1打开kettle工具，创建转换

创建转换incremental_load，并添加“表输入”控件、“插入/更新”控件，以及Hop跳连接线

 2.2配置“表输入”控件

双击图中“表输出”控件，进入“表输出”界面，单击新建按钮，配置数据库连接，配置完成后点击“确认”按钮

 

在SQL框中编写查询数据表incremental_source数据的SQL语句，然后单击“预览”按钮，查看数据表incremental_source的数据是否成功从MySQL数据库中抽取到数据流中

2.3配置“插入/更新 ”控件

进入“插入/更新”界面，单击“新建”按钮，单击目标表处的“浏览”按钮，弹出“数据库浏览器”窗口，选择目标表incremental_target，单击“获取字段”按钮，用来指定查询数据需要的关键字，这里比较数据表incremental_target的字段id与输入流里的字段id是否一致为条件，更新数据表中的其他字段数据

单击“获取和更新字段”按钮，用来指定需要更新字段

 2.4修改数据表incremental_source中的数据

在数据表incremental_source中新增一条id为6、name为Mary、age为23的数据；对数据表incremental_source中的id为2的数据进行修改，即将这条数据的年龄（age）改为25

2.5运行转换incremental_load

2.6查看数据表incremental_target中的数据