5.数据去重（不完全去重）

1.打开Kettle工具，创建转换

通过使用Kettle工具，创建一个转换5-1不完全去重，并添加“文本文件输入”控件、“唯一行（哈希值）”控件以及Hop跳连接线，具体如图所示。

2.配置文本文件输入控件

双击“文本文件输入”控件，进入“文本文件输入”配置界面。
单击【浏览】按钮，选择要去重的文件people.txt；单击【增加】按钮，将要去重的文件people.txt添加到转换5-1-不完全去重中。
单击“内容”选项卡；清除分隔符处的默认分隔符“；”，并单击【Insert TAB】按钮，在分隔符处插入一个制表符；取消勾选“头部”复选框。

单击“字段”选项卡；根据文件people.txt的内容添加对应的字段名称，并指定数据类型。

单击【预览记录】按钮，查看文件people.txt的数据是否成功抽取到文本文件输入流中。

3.配置唯一行（哈希值）控件

双击“唯一行（哈希值）”控件，进入“唯一行（哈希值）”配置界面。
在“用来比较的字段”处，添加要比较去重的字段，即Name、UserLevel、Phone字段。

4.运行转换 不完全去重

单击转换工作区顶部的按钮，运行创建的不完全去重转换。

5.查看文件people.txt是否消除不完全重复的数据

选中“唯一行（哈希值）”控件，单击执行结果窗口的“Preview data”选项卡，查看是否消除文件people.txt中不完全重复的数据。