ETL第七章

期待浪漫

已于 2022-11-25 17:38:31 修改

阅读量301

点赞数

分类专栏： ETL 文章标签： etl 数据库 mysql

于 2022-11-24 22:10:09 首次发布

本文链接：https://blog.csdn.net/weixin_56309735/article/details/127404690

版权

ETL 专栏收录该内容

7 篇文章 2 订阅

订阅专栏

7.1 数据的加载机制-全量加载

1. 打开Kettle工具，创建转换

1.1 使用Kettle工具，创建一个转换7-1-数据的加载机制，并添加执行SQL脚本控件、表输入控件、表输出控件以及Hop跳连接线，具体如图所示。

2. 配置执行SQL脚本控件

2.1 双击“执行SQL脚本”控件，进入“执行SQL语句”界面，具体如图所示。

2.2 单击【新建】按钮，配置数据库连接，配置完成后单击【确认】按钮。MySQL数据库连接的配置；在SQL框中编写删除数据表full_target中数据的SQL语句，如图所示。

3. 配置表输入控件

3.1 双击“表输入”控件，进入“表输入”配置界面，在SQL框中编写查询full_source数据表的SQL语句，如图所示。

3.2 单击【预览】按钮，查看full_source数据表的数据是否成功从MySQL数据库中抽取到表输入流中，如图所示。

4. 配置表输出控件

4.1 双击“表输出”控件，进入“表输出”配置界面；单击目标表处的【浏览】按钮，选择输出的目标表，即数据表full_target，这里不需要新建数据库连接，只需要选择已创建的数据库连接即可，如图所示。

5. 运行转换7-1-数据的加载机制

5.1 单击转换工作区顶部的按钮，运行创建的转换7-1-数据的加载机制，实现将数据表full_source中的数据全量加载到数据表full_target中，如图所示。

6. 查看数据表full_target中的数据

6.1 通过mysql工具，查看数据表full_target是否已成功加载到数据，查看结果如图所示

7.1 增量加载

1.打开Kettle工具，创建转换

1.1 使用Kettle工具，创建一个转换incremental_load，并添加表输入控件、插入/更新控件以及Hop跳连接线，具体如图所示。

2. 配置表输入控件

2.1 双击“表输入”控件，进入“表输入”配置界面，单击【新建】按钮，配置数据库连接，配置完成后单击【确认】按钮。MySQL数据库连接的配置，具体如图所示。

2.2 在SQL框中编写查询数据表incremental_source的SQL语句，然后单击【预览】按钮，查看数据表incremental_source的数据是否成功从MySQL数据库中抽取到表输入流中，具体如图所示。

3. 配置插入/更新控件

3.1 双击“插入/更新”控件，进入“插入/更新”配置界面，单击【新建】按钮，配置数据库连接，配置完成后单击【确认】按钮。MySQL数据库连接的配置，具体如图所示。

3.2 单击目标表处的【浏览】按钮，弹出“数据库浏览器”窗口，选择目标表incremental_target，具体如图所示。

3.3 单击【获取字段】按钮，用来指定查询数据所需要的关键字，这里通过比较数据表incremental_target的字段id与输入流里的字段id是否一致为关键条件，更新数据表中的其它字段数据；单击【获取和更新字段】按钮，用来指定需要更新的字段，具体如图所示。

4. 修改数据表incremental_source中的数据

4.1 在数据表incremental_source中新增一条id为6、name为John、age为25的数据；对数据表incremental_source中id为2的数据进行修改，即将这条数据的年龄（age）改为25。修改后的数据表incremental_source中的数据内容如图所示。

5. 运行转换7-1-批量处理

5.1 单击转换工作区顶部的按钮，运行创建的转换incremental_load，实现将数据表incremental_source中的数据增量加载到数据表incremental_target中，如图所示。

6. 查看数据表incremental_target中的数据

6.1 通过mysql工具，查看数据表incremental_target是否已成功加载到数据，查看结果如图所示。

7.2 数据的批量加载

1. 打开Kettle工具，创建转换

1.1 使用Kettle工具，创建一个转换批量加载，并添加执行CSV文件输入控件、表输出控件以及Hop跳连接线，具体如图所示。

2. 配置CSV文件输入控件

2.1 双击“CSV文件输入”控件，进入“CSV文件输入”配置界面，具体如图所示。

2.2 在“文件名”处单击【浏览】按钮，选择要抽取的CSV文件weibo_user.csv；单击【获取字段】按钮，让Kettle自动检索CSV文件，并对文件中字段的类型、格式、长度、精度等属性进行解析，具体如图所示。

2.3 单击【预览】按钮，查看CSV文件weibo_user.csv的数据是否抽取到CSV文件输入流中，具体如图所示。

3. 配置表输出控件

3.1 双击“表输出”控件，进入“表输出”配置界面，单击【新建】按钮，配置数据库连接，配置完成后单击【确认】按钮。数据库连接的配置，具体如图所示。

3.2 单击目标表右侧的【浏览】按钮，选择输出的目标表，即数据表weibo_user（该表需提前创建，且表结构需根据文件weibo_user.csv中数据的字段和数据类型进行创建，这里不作演示）；勾选“指定数据库字段”的复选框，用于将weibo_user数据表的字段与weibo_user.csv文件中的字段进行匹配；勾选“使用批量插入”的复选框，用于批量加载数据至目标表中，如图所示。

3.3 选择“数据库字段”选项卡，单击【输入字段映射】按钮，弹出“映射匹配”对话框，依次选中“源字段”选项框的字段和“目标字段”选项框的字段，再单击【Add】按钮，将一对映射字段添加至“映射”选项框中，若“源字段”选项框的字段和“目标字段”选项框的字段相同，则可以单击【猜一猜】按钮，让Kettle自动实现映射，具体如图所示。