第五章 完全去重

案例介绍

      通过Kettle工具，消除CSV文件merge.csv中完全重复的数据。

案例实现

1.打开Kettle工具，创建转换

      通过使用Kettle工具，创建一个转换repeat_transform，并添加“CSV文件输入”控件、“唯一行（哈希值）”控件以及Hop跳连接线，具体如图所示。

 2.配置CSV文件输入控件

      双击“CSV文件输入”控件，进入“CSV文件输入”配置界面。单击【浏览】按钮，选择要进行完全去重处理的CSV文件merge.csv；再单击【获取字段】按钮，Kettle会自动检索CSV文件，并对文件中的字段类型、格式、长度、精度等属性进行分析。

      单击【预览】按钮，查看CSV文件merge.csv的数据是否加载到CSV文件输入流中。

 3.配置“唯一行”控件

      双击“唯一行（哈希值）”控件，进入“唯一行（哈希值）”配置界面。在“用来比较的字段”处，添加要去重的字段，这里可以单击【获取】按钮，获取要去重的字段。

 4.运行转换repeat_transform

      单击转换工作区顶部的按钮，运行创建的repeat_transform转换。

 5.查看merge.csv是否消除完全重复的数据

      选中“唯一行（哈希值）”控件，单击执行结果窗口的“Preview data”选项卡，查看是否消除CSV文件merge.csv中完全重复的数据。