现有文本文件personnel_data.txt,包含字段id、name、id_number、household_register和salary。通过Kettle工具实现以下功能。
(1)实现对文本文件personnel_data.txt中的数据进行数据粒度的转换,即将文本文件personnel_data.txt中字段为household_register的数据统一成省份(直辖市),并输出到文本文件personnel_data_new.txt中。
答:实现如下:
1.打开Kettle工具,新建转换
使用Kettle工具,创建一个转换generalization,并添加文本文件输入控件、表输入控件、字段选择控件、排序记录控件、记录集连接控件、表输出控件以及Hop跳连接线。
2.配置文本文件输入控件
双击图6-1中的“文本文件输入”控件,进入“文本文件输入”界面,单击“浏览”按钮,选择要抽取personnel_data.txt文件;单击“增加”按钮,将要抽取的personnel_data.txt文件添加到generalization转换中。
单击“内容”选项卡,在分隔符处清除默认分隔符“;”,单击【Insert TAB】按钮,在分隔符处插入一个制表符;取消勾选“头部”复选框。“内容”选项卡的配置具体效果如图
单击“字段”选项卡,根据personnel_data.txt文件的内容添加对应的字段名称,并指定数据类型。“字段”选项卡的配置,
单击【确定】按钮,完成“文本文件输入”控件的配置。
3.配置字段选择控件
双击图中的“字段选择”控件,进入“选择/改名值”界面,在“选择和修改”选项卡处添加字段名称,
单击【确定】按钮,完成“字段选择”控件的配置。
4.配置排序记录控件
双击图中的“排序记录”控件,进入“排序记录”界面,并在“字段”框中添加字段household_register,对其进行排序,具体如图所示。
单击【确定】按钮,完成“排序记录”控件的配置。
5.配置表输入控件
双击图中的“表输入”控件,进入“表输入”界面,
单击【新建】按钮,配置数据库连接,配置完成后单击【确认】按钮。MySQL数据库连接的配置,
在图中的SQL框中编写SQL语句,用于查询city数据表(注:该表需提前创建,读者执行本书提供的data.sql脚本文件可生成city数据表)中字段city和pid的数据,用于与personnel_data.txt文件中household_register字段进行合并连接,具体如图6-9所示。
单击【确定】按钮,完成“表输入”控件的配置。
6.配置排序记录2控件
双击图中的“排序记录 2”控件,进入“排序记录”界面,在“字段”框中添加字段city,并对其进行排序,
单击【确定】按钮,完成“排序记录2”控件的配置。