一 对文件merge.csv进行完全去重
通过使用Kettle工具,创建一个转换repeat_transform,并添加“CSV文件输入”控件、“唯一行(哈希值)”控件以及Hop跳连接线,具体如图所示。
双击“CSV文件输入”控件,进入“CSV文件输入”配置界面。
单击【预览】按钮,查看CSV文件merge.csv的数据是否加载到CSV文件输入流中。
双击“唯一行(哈希值)”控件,进入“唯一行(哈希值)”配置界面。
在“用来比较的字段”处,添加要去重的字段,这里可以单击【获取】按钮,获取要去重的字段。单击转换工作区顶部的 运行按钮,运行创建的repeat_transform转换。
二 对文件people_survey.txt中的缺失值进行填充
通过使用Kettle工具,创建一个转换fill_missing_value,并添加“文本文件输入”控件、“过滤记录”控件、“空操作(什么也不做)”控件、“替换NULL值”控件、“合并记录”控件、“字段选择”控件以及Hop跳连接线。
双击“文本文件输入”控件,进入“文本文件输入”配置界面。
双击“过滤记录”控件,进入“过滤记录”配置界面。
在“条件”处设置过滤的条件,由于从“预览数据”图中可以看出字段userid为000016用户的hours_per_week(即每周工作时间字段)存在缺失值,而它的workclass字段值为Private,因此我们可以将过滤字段设置为workclass、过滤值设置为Private作为过滤条件。在“发送true数据给步骤:”下拉框中选择“空操作”,将workclass字段值为Private的数据放在“空操作”控件中;在“发送false数据给步骤:”下拉框中选择“空操作(什么也不做)2”,将workclass字段值不为Private的数据放在“空操作(什么也不做)2”控件中。
双击“替换NULL值”控件,进入“替换NULL值”配置界面。勾选“选择字段”处的复选框,并在“字段”框添加字段为hours_per_week,值替换为44(44是字段为hours_per_week中所有值相加求的均值,这里指用44替换字段hours_per_week中的NULL值)。
双击“合并记录”控件,进入“合并行(比较)”配置界面。
在”旧数据源:”下拉框选择“替换NULL值”,“新数据源:”下拉框选择“空操作(什么也不做)2”;在“匹配的关键字:”部分,添加关键字段,即userid。双击“替换NULL值2”控件,进入“替换NULL值”配置界面。勾选“选择字段”处的复选框,并在“字段”框添加字段为workclass,值替换为Private(这里用Private替换字段workclass中的NULL值)。
双击“字段选择”控件,进入“选择/改名值”配置界面。在“移除”选项卡处添加要移除的字段名称,这里移除的是字段flagfield。
单击转换工作区顶部的运行按钮,运行创建的fill_missing_value转换。