第七章 数据加载

一、全量加载

        从技术角度来说，全量加载比增量加载的操作要简单很多，即只需要在数据加载之前，将目标数据表进行清空，再将源数据表中的数据全部加载到目标表中。

案例实现：

数据装备：

        假设，现有两张数据表，分别为数据表full_source和数据表full_target，其中数据表full_source为源数据表，数据表full_target为目标数据表。数据表full_source和full_target的内容如图所示。

数据表full_source

数据表full_target

        下面通过Kettle工具将数据表full_source中的数据全量加载到数据表full_target中。

 1.打开Kettle工具，创建转换

         使用Kettle工具，创建一个转换full_load，并添加执行SQL脚本控件、表输入控件、表输出控件以及Hop跳连接线，具体如图所示。

2.配置执行SQL脚本控件 

        双击“执行SQL脚本”控件，进入“执行SQL语句”界面，具体如图所示。

         单击【新建】按钮，配置数据库连接，配置完成后单击【确认】按钮。MySQL数据库连接的配置；在SQL框中编写删除数据表full_target中数据的SQL语句，如图所示。

 3.配置表输入控件

        双击“表输入”控件，进入“表输入”配置界面，在SQL框中编写查询full_source数据表的SQL语句，单击【预览】按钮，查看full_source数据表的数据是否成功从MySQL数据库中抽取到表输入流中，如图所示。

4. 配置表输出控件

        双击“表输出”控件，进入“表输出”配置界面；单击目标表处的【浏览】按钮，选择输出的目标表，即数据表full_target，这里不需要新建数据库连接，只需要选择已创建的数据库连接即可，如图所示。

5.运行转换full_load

        单击转换工作区顶部的 按钮，运行创建的转换full_load，实现将数据表full_source中的数据全量加载到数据表full_target中，如图所示。 

6.查看数据表full_target中的数据 

         通过SQLyog工具，查看数据表full_target是否已成功加载到数据，查看结果如图所示。        

         从上图可以看书，数据表full_target中已经加载到数据，说明成功实现了将数据表full_source中的数据全量加载到数据表full_target中。

二、增量加载

        增量加载是指目标表仅加载源数据表中新增和发生变化的数据。优秀的增量加载机制不但能够将业务系统中的变化数据按一定的频率准确地捕获到并加载到目标表中，同时还不会对业务系统造成太大的压力，也不会影响现有业务。

案例实现

数据准备

       假设，现有两张数据表，分别为incremental_source和incremental_target，其中incremental_source为源数据表，incremental_target为目标数据表。数据表incremental_source和incremental_target的表结构、数据都是相同的，具体如图所示。

incremental_source

incremental_target

        下面通过Kettle工具将数据表incremental_source中的数据增量加载到数据表incremental_target中。

1.打开Kettle工具，创建转换

        使用Kettle工具，创建一个转换incremental_load，并添加表输入控件、插入/更新控件以及Hop跳连接线，具体如图所示。

2.配置表输入控件 

        双击“表输入”控件，进入“表输入”配置界面，单击【新建】按钮，配置数据库连接，配置完成后单击【确认】按钮。MySQL数据库连接的配置，具体如图所示。

        在SQL框中编写查询数据表incremental_source的SQL语句，然后单击【预览】按钮，查看数据表incremental_source的数据是否成功从MySQL数据库中抽取到表输入流中，具体如图所示。

3.配置插入/更新控件 

        双击“插入/更新”控件，进入“插入/更新”配置界面，单击【新建】按钮，配置数据库连接，配置完成后单击【确认】按钮。MySQL数据库连接的配置，具体如图所示。

       单击目标表处的【浏览】按钮，弹出“数据库浏览器”窗口，选择目标表incremental_target，具体如图所示。

        单击【获取字段】按钮，用来指定查询数据所需要的关键字，这里通过比较数据表incremental_target的字段id与输入流里的字段id是否一致为关键条件，更新数据表中的其它字段数据；单击【获取和更新字段】按钮，用来指定需要更新的字段，具体如图所示。         

 

4.修改数据表incremental_source中的数据 

         在数据表incremental_source中新增一条id为6、name为Mary、age为23的数据；对数据表incremental_source中id为2的数据进行修改，即将这条数据的年龄（age）改为25。修改后的数据表incremental_source中的数据内容如图所示。

incremental_source

5. 运行转换incremental_load

         单击转换工作区顶部的按钮，运行创建的转换incremental_load，实现将数据表incremental_source中的数据增量加载到数据表incremental_target中，如图所示。

 6.查看数据表incremental_target中的数据

        通过SQLyog工具，查看数据表incremental_target是否已成功加载到数据，查看结果如图所示。

        从上图可以看出，数据表incremental_target中已经加载到数据，说明我们通过Kettle工具将数据表incremental_source中的数据增量加载到数据表incremental_target中。