ETL笔记——第七章 数据加载

一、数据加载机制

1、全量加载

        从技术角度来说，全量加载比增量加载的操作要简单很多，即只需要在数据加载之前，将目标数据表进行清空，再将源数据表中的数据全部加载到目标表中。

        通过Kettle工具将数据表full_source中的数据全量加载到数据表full_target中。

（1）数据准备

        现有两张数据表，分别为数据表full_source和数据表full_target，其中数据表full_source为源数据表，数据表full_target为目标数据表。

数据表full_source：

数据表full_target：

 

 

（2）full_load转换

        创建一个转换full_load，并添加执行SQL脚本控件、表输入控件、表输出控件以及Hop跳连接线。

 

1）配置执行SQL脚本控件

新建数据库连接，在SQL框中编写删除数据表full_target中数据的SQL语句。

 

2）配置表输入控件

在SQL框中编写查询full_source数据表的SQL语句。

 

查看full_source数据表的数据是否成功从MySQL数据库中抽取到表输入流中。

 

3）配置表输出控件

选择输出的目标表，即数据表full_target，这里不需要新建数据库连接，只需要选择已创建的数据库连接即可。

 

（3）运行full_load转换

        查看数据表full_target是否已成功加载到数据。

 

2、增量加载

        增量加载是指目标表仅加载源数据表中新增和发生变化的数据。优秀的增量加载机制不但能够将业务系统中的变化数据按一定的频率准确地捕获到并加载到目标表中，同时还不会对业务系统造成太大的压力，也不会影响现有业务。

        通过Kettle工具将数据表incremental_source中的数据增量加载到数据表incremental_target中。

（1）数据准备

        现有两张数据表，分别为incremental_source和incremental_target，incremental_source为源数据表，incremental_target为目标数据表。数据表incremental_source和incremental_target的表结构、数据都是相同的。

数据表incremental_source：

 

数据表incremental_target：

 

（2）incremental_load转换

        创建一个转换incremental_load，并添加表输入控件、插入/更新控件以及Hop跳连接线。

 

1）配置表输入控件

新建数据库连接，在SQL框中编写查询数据表incremental_source的SQL语句。

 

查看数据表incremental_source的数据是否成功从MySQL数据库中抽取到表输入流中。

 

2）配置插入/更新控件

选择目标表incremental_target，单击【获取字段】按钮，用来指定查询数据所需要的关键字，这里通过比较数据表incremental_target的字段id与输入流里的字段id是否一致为关键条件，更新数据表中的其它字段数据；单击【获取和更新字段】按钮，用来指定需要更新的字段。

 

3）修改数据表incremental_source中的数据

在数据表incremental_source中新增一条id为6、name为Mary、age为23的数据；对数据表incremental_source中id为2的数据进行修改，即将这条数据的年龄（age）改为25。

 

（3）运行incremental_load转换

        查看数据表incremental_target是否已成功加载到数据。

 

二、数据批量加载

        通过Kettle工具将文件weibo_user.csv中的数据批量加载到数据表weibo_user中。

1、数据准备

        现有一个CSV格式的微博用户信息文件weibo_user.csv，其中包含了用户id、用户名称、用户性别、用户简介等字段。

 

2、batch_load转换

        创建一个转换batch_load，并添加执行CSV文件输入控件、表输出控件以及Hop跳连接线。

 

（1）配置CSV文件输入控件

选择要抽取的CSV文件weibo_user.csv，让Kettle自动检索CSV文件中的字段，并对文件中字段的类型、格式、长度、精度等属性进行解析。

 

查看CSV文件weibo_user.csv的数据是否抽取到CSV文件输入流中。

 

（2）配置表输出控件

新建数据库连接。

 

选择输出的目标表，即数据表weibo_user（该表需提前创建，且表结构需根据文件weibo_user.csv中数据的字段和数据类型进行创建）；勾选“指定数据库字段”的复选框，用于将weibo_user数据表的字段与weibo_user.csv文件中的字段进行匹配；勾选“使用批量插入”的复选框，用于批量加载数据至目标表中。

 

选择“数据库字段”选项卡，单击【输入字段映射】按钮，弹出“映射匹配”对话框。单击【猜一猜】按钮，让Kettle自动实现映射。

 

“表输出”界面最终显示的效果。

 

3、运行batch_load转换

        查看数据表weibo_user是否已成功加载到数据。