数据清洗过程中,所有字段值都相等的重复值是一定要剔除的。根据不同的业务场景,有时还需要选取其中若干字段进行去重操作。
通过Kettle工具,将文件people.txt中不完全重复的数据进行去重处理。
现在有一份用户访问网站的数据文件people.txt,内容如图所示。
通过使用Kettle工具,创建一个转换repeat_transform,并添加“CSV文件输入”控件、“唯一行(哈希值)”控件以及Hop跳连接线,具体如图所示。
单击“字段”选项卡;根据文件people.txt的内容添加对应的字段名称,并指定数据类型。
单击“内容”选项卡;清除分隔符处的默认分隔符“;”,并单击【Insert TAB】按钮,在分隔符处插入一个制表符;取消勾选“头部”复选框。
单击【预览记录】按钮,查看文件people.txt的数据是否成功抽取到文本文件输入流中。
选中“唯一行(哈希值)”控件,单击执行结果窗口的“Preview data”选项卡,查看是否消除文件people.txt中不完全重复的数据。
至此,我们完成了不完全的去重。