第6章 数据转换

6.1 多数据源合并

 1.打开Kettle工具，创建转换

使用Kettle工具，创建一个转换，并添加CSV文件输入控件、表输入控件、字段选择控件、排序合并控件、增加序列控件、表输出控件以及Hop跳连接线，具体如图所示。

 2、配置CSV文件输入控件

双击“CSV文件输入”控件，进入“CSV文件输入”配置界面，具体如图所示。

    单击【浏览】按钮，选择要抽取的CSV文件，单击【获取字段】按钮，Kettle自动检索CSV文件获取字段名称，并对文件中字段的类型、格式、长度、精度等属性进行解析。

 单击【浏览】按钮，查看文件的数据是否抽取到CSV文件输入流中，具体效果如图所示。

 3、配置字段选择控件

    双击“字段选择”控件，进入“选择/改名值”界面具体效果如图所示。

 在“选择和修改”选项卡的“字段”处手动添加CSV文件输入控件输出的所有数据字段，也可以单击【获取选择的字段】按钮，Kettle工具自动检索并添加CSV文件输入控件输出的所有数据字段。

      选择“元数据”选项卡，切换到“元数据”选项卡界面。添加需要改变元数据的字段，将“字段选择”流中的字段进行一致性处理，即单击【获取改变的字段】按钮，获取要改变的字段，并在“Binary to Normal”一列的下拉框中，选择为“是”，使得CSV文件company_a.csv中数据的字段类型与数据表company_b中数据的字段类型一致。

 

 4、配置表输入控件

    双击“表输入”控件，进入“表输入”界面。

 单击【新建】按钮，配置数据库连接，配置完成后单击【确认】按钮。MySQL数据库连接的配置，如下所示。

 在图中的SQL框中编写查询数据表company_b的SQL语句，然后单击【预览】按钮，查看数据表company_b的数据是否成功从MySQL数据库中抽取到表输入流中，具体如图所示。

 

 5、配置排序合并控件

     双击“排序合并”控件，进入“排序合并”配置界面，并在字段框中，指定按字段id进行升序排序。 

 6、配置增加序列控件

7、 配置字段选择2控件

 

 8、配置表输出控件

     双击“表输出”控件，进入“表输出”控件的配置界面。

     单击【新建】按钮，配置数据库连接，配置完成后单击【确认】按钮。数据库连接的配置具体如图所示。

 

     单击目标表右侧的【浏览】按钮，指定输出目标表，即数据表company（该表需提前创建，这里不作演示）；勾选“指定数据库字段”复选框，用于将数据表company的字段与“字段选择2”控件输出流中的字段进行匹配，如图所示。

      单击“数据库字段”选项卡；再单击【输入字段映射】按钮，弹出“映射匹配”对话框；依次选中“源字段”选项框的字段和“目标字段”选项框对应的字段，再单击【Add】按钮，将一对映射字段添加至“映射”选项框中。

 

 单击【确定】按钮，完成“源字段”与“目标字段”的映射匹配。“表输出”界面最终的配置如图所示。

 9、运行转换

     单击转换工作区顶部的按钮，运行创建的转换，实现将A公司和B公司的手机日销售数据合并到一个数据源（即数据表company）中，具体如图所示。

 

 6.3 数据粒度的转换

 

 1、打开Kettle工具，创建转换

       使用Kettle工具，创建一个转换granularity，并添加表输入控件、字段选择控件、排序记录控件、记录集连接控件、过滤控件、空操作控件、表输出控件以及Hop跳连接线。

2、配置表输入控件

  双击“表输入”控件，进入“表输入”配置界面。

 3、配置字段选择控件

      双击“字段选择”控件，进入“选择/改名值”界面，在“选择和修改”选项卡的“字段”处手动添加所需字段，这里添加字段id和salesArea。

 4、配置排序记录控件

        双击“排序记录”控件，进入“排序记录”配置界面，在“字段”框中添加字段salesArea，通过以该字段为基础对整体数据进行升序排序。

 5、配置表输入2控件

 6、配置排序记录2控件

 7、配置记录集连接控件

      双击“记录集连接”控件，进入“合并排序”配置界面，并在“第一个步骤”处的下拉框中选择“排序记录”控件，“第二个步骤”处的下拉框中选择“排序记录2”控件；在“第一个步骤的连接字段”和“第二个步骤的连接字段”处分别添加连接字段，这里添加的连接字段是salesArea和city，将“排序记录”控件流中的数据与“排序记录2”控件流中的数据进行合并连接；在“连接类型”处的下拉框选择连接类型，这里选择的LEFT OUTER，即左外连接。

 8、配置字段选择2控件

     双击“字段选择2”控件，进入“选择/改名值”界面，并在“选择和修改”选项卡的“字段”处手动添加所需字段，这里添加字段id、pid和salesArea。

 9、配置排序记录3控件

 10、配置表输入5控件

 11、配置排序记录4控件

    双击“排序记录4”控件，进入“排序记录”配置界面，并在“字段”框中添加字段pid，以该字段为基础对整体数据进行升序排序。

 12、配置记录集连接2控件

 13、配置过滤记录控件

 双击“过滤记录”控件，进入“过滤记录”配置界面；在“条件”处设置过滤的条件，将字段为Provincial中值为“null”的数据过滤掉；在“发送true数据给步骤：”处的下拉框中选择“空操作”，将Provincial字段值为不为null的数据放在“空操作”控件中；在“发送false数据给步骤：”处的下拉框中选择“空操作（什么也不做）2”，将Provincial字段值为null的数据放在“空操作（什么也不做）2”控件中。

 14、配置字段选择3控件

 15、配置表输出控件

 16、配置字段选择4控件

 17、配置表输出2控件

 ...

 6.4  数据的商务规则计算

 

 1、打开Kettle工具，创建转换

      使用Kettle工具，创建一个转换total，并添加表输入控件、字段选择控件、计算器控件、排序记录控件、分组控件、唯一行控件、表输出控件以及Hop跳连接线。

2、配置表输入控件

      双击“表输入”控件，进入“表输入”配置界面，单击【新建】按钮，配置数据库连接，配置完成后单击【确认】按钮；在SQL框中编写查询数据表company_new中全部数据的SQL语句，然后单击【预览】按钮，查看数据表company_new中数据是否成功从MySQL数据库中抽取到表输入流中。

3、配置字段选择控件

    双击“字段选择”控件，进入“选择/改名值”界面，并在“选择和修改”选项卡的“字段”处手动添加所需字段，这里添加字段id、salesArea、unitPrice和number，用于后续的计算处理；选择“元数据”选项卡，切换到“元数据”选项卡界面，并添加需要改变元数据的字段，由于数据表company_new中字段unitPrice的数据类型为varchar（字符），字段number的类型为int，这字段类型不同的数据无法进行计算，因此需要将字段unitPrice的类型改为Integer，从而进行后续的计算操作。

 

4、配置计算器控件

  双击“计算器”控件，进入“计算器”界面，在“字段”处，添加一个新字段salesAmount，用于存储计算出的手机日销售额；在“字段A”和“字段B”处的下拉选项中分别选择“unitPrice”（销售价格）和“number”（销售数量）字段；在“计算”处的下拉框中选择“A*B”，即表示将字段A与字段B进行相乘计算。

 5、配置排序记录控件

  双击“排序记录”控件，进入“排序记录”界面，并在“字段”框中添加字段salesArea，以该字段为基础对所有数据进行升序排序。

 

 6、配置分组控件

    双击“分组”控件，进入“分组”界面，并在“构成分组的字段”处的添加分组字段salesArea，将字段salesArea相同的数据分为一组，便于进行“聚合”操作；在“聚合”处添加一个新字段total，用于存储各省份的手机销售总额。

 

 7、配置字段选择2控件

 8、配置唯一行控件

     双击“唯一行”控件，进入“唯一行”界面，并在“用来比较的字段”处添加要去重的字段，因为“字段选择2”控件流中字段total的数据有重复，所以需要进行去重操作，因此这里选择去重的字段为total。

 9、配置表输出控件

 

 10、配置表输出控件

      单击【输入字段映射】按钮，弹出“映射匹配”对话框，依次选中“源字段”选项框的字段和“目标字段”选项框对应的字段，再单击【Add】按钮，将一对映射字段添加至“映射”选项框中，若“源字段”选项框的字段和“目标字段”选项框的字段相同，则可以单击【猜一猜】按钮，让Kettle自动实现映射，用于将数据表company_new中的字段salesArea、total与目标数据表中的字段salesArea、total进行匹配。单击【确定】按钮，完成“源字段”与“目标字段”的映射匹配。

 

 11、运行转换