使用kettle工具实现完全去重和缺失值处理

一、完全去重

完全去重指的是消除完全重复的数据，这里提到的完全重复数据指的是数据表记录字段值完全一样的数据。例如，现在有两个表格分别记录的不同年份的用户信息，现要求合并统计所有用户信息，发现合并后的表格存在完全重复的数据,为了便于后期更加方便地使用这些用户数据，通常情况下会对数据进行去重操作。

步骤

1、通过使用Kettle工具，创建一个转换repeat_transform，并添加“CSV文件输入”控件、“唯一哈希值）”控件以及Hop跳连接线，具体如图所示。

2、 单击【浏览】按钮，选择要进行完全去重处理的CSV文件merge.csv；再单击【获取字段】按钮，Kettle会自动检索CSV文件，并对文件中的字段类型、格式、长度、精度等属性进行分析。

3、单击【预览】按钮，查看CSV文件merge.csv的数据是否加载到CSV文件输入流中。

4、双击“唯一行（哈希值）”控件，进入“唯一行（哈希值）”配置界面。在“用来比较的字段”处，添加要去重的字段，这里可以单击【获取】按钮，获取要去重的字段。

 5、单击转换工作区顶部的     按钮，运行创建的repeat_transform转换。

6、选中“唯一行（哈希值）”控件，单击执行结果窗口的“Preview data”选项卡，查看是否消除CSV文件merge.csv中完全重复的数据。

二、缺失值处理

数据挖掘中，面对的通常都是大型的数据库，它的属性有几十个甚至几百个，因为其中某个属性值的缺失而放弃大量其他的属性值，这种删除是对信息的极大浪费，所以产生了插补缺失值的思想与方法。

步骤

1、通过使用Kettle工具，创建一个转换fill_missing_value，并添加“文本文件输入”控件、“过滤记录”控件、“空操作（什么也不做）”控件、“替换NULL值”控件、“合并记录”控件、“字段选择”控件以及Hop跳连接线。

2、双击“文本文件输入”控件，进入“文本文件输入”配置界面。单击【浏览】按钮，选择要去除缺失值的文件people_survey.txt；单击【增加】按钮，将要去除缺失值的文件people_survey.txt添加到“文本文件输入”控件中。

3、单击“内容”选项卡；在清除分隔符处的默认分隔符“；”，单击【Insert TAB】按钮，在分隔符处插入一个制表符；取消勾选“头部”复选框，若不取消，在进行数据抽取操作时会排除文件第一行的数据。

4、单击“字段”选项卡；根据文件people_survey.txt文件的内容添加对应的字段名称，并指定数据类型。

5、单击【预览记录】按钮，查看文件people_surveytxt的数据是否成功抽取到文本文件输入流中。

 

 6、双击“过滤记录”控件，进入“过滤记录”配置界面。在“条件”处设置过滤的条件，由于从“预览数据”图中可以看出字段userid为000016用户的hours_per_week（即每周工作时间字段）存在缺失值，而它的workclass字段值为Private，因此我们可以将过滤字段设置为workclass、过滤值设置为Private作为过滤条件。在“发送true数据给步骤：”下拉框中选择“空操作”，将workclass字段值为Private的数据放在“空操作”控件中；在“发送false数据给步骤：”下拉框中选择“空操作（什么也不做）2”，将workclass字段值不为Private的数据放在“空操作（什么也不做）2”控件中。

7、双击“替换NULL值”控件，进入“替换NULL值”配置界面。勾选“选择字段”处的复选框，并在“字段”框添加字段为hours_per_week，值替换为44（44是字段为hours_per_week中所有值相加求的均值，这里指用44替换字段hours_per_week中的NULL值）。

8、双击“合并记录”控件，进入“合并行（比较）”配置界面。在”旧数据源：”下拉框选择“替换NULL值”，“新数据源：”下拉框选择“空操作（什么也不做）2”；在“匹配的关键字：”部分，添加关键字段，即userid。

9、双击“替换NULL值2”控件，进入“替换NULL值”配置界面。勾选“选择字段”处的复选框，并在“字段”框添加字段为workclass，值替换为Private（这里用Private替换字段workclass中的NULL值）。

 10、双击“字段选择”控件，进入“选择/改名值”配置界面。双击“字段选择”控件，进入“选择/改名值”配置界面。

 11、单击转换工作区顶部的     按钮，运行创建的fill_missing_value转换。

 

12、单击图5-79中的“字段选择”控件，再单击执行结果窗口的“Preview data”选项卡，查看是否填充了文件people_survey.txt中的缺失值。

参考 黑马程序员《数据清洗》