第四章习题以及总结

本章习题

一、操作题

通过Kettle工具，实现以下功能：

（1）抽取CSV文件csv_extract.csv中的数据保存至数据库extract中的数据表csv中。

1. 提前在MYSQL中创建extract数据库，并且在该数据库中创建csv数据表，如图

 并且现有一个名为csv_extract.csv的CSV文件，该文件的内容如图所示。

2.打开Kettle工具，创建转换

 通过使用Kettle工具，创建一个转换csv_extract，并添加“CSV文件输入”控件、“表输出”控件以及Hop跳连接线，具体如图所示。

3.配置CSV文件输入控件

 双击“CSV文件输入”控件，进入“CSV文件输入”界面；单击【浏览】按钮，选择要抽取的文件csv_extract.csv；单击【获取字段】按钮，Kettle自动检索CSV文件，并对文件中的字段类型、格式、长度、精度等属性进行分析。单击【预览】按钮，查看文件csv_extract.csv的数据是否抽取到CSV文件输入流中。

 4.配置表输出控件

双击“表输出”控件，进入“表输出”控件的配置界面；单击【新建】按钮，配置数据库连接，配置完成后单击【确认】按钮。单击目标表右侧的【浏览】按钮，获取目标表，即数据表csv；勾选“指定数据库字段”的复选框；单击“数据库字段”选项卡,再单击【输入字段映射】按钮，弹出“映射匹配”对话框,将“源字段”选项框的字段和“目标字段”选项框对应的字段进行映射匹配。

 5.运行转换。

单击转换工作区顶部的运行按钮，运行创建的csv_extract转换。

 

（2）抽取JSON文件json_extract.js中的数据保存至数据库extract中的数据表json中。

1.提前创建extract数据库，并且在其中创建好json数据表。

 2.打开Kettle工具，创建转换。

  通过使用Kettle工具，创建一个转换json_extract，并添加“JSON input”控件、“表输出”控件以及Hop跳连接线，具体如图所示。

 3.配置JSON文件输入控件JSON input

双击“JSON input”控件，进入“JSON输入”界面；单击【浏览】按钮，选择要抽取的JSON文件json_extract.json；单击【增加】按钮，将所选择的文件添加到“选中的文件和目录”处；单击“字段”选项卡，添加要抽取的数据字段（这里采用分层抽取数据字段，先抽取id和data字段，再从data字段中抽取field和value字段）；

 4.配置JSON文件输入控件JSON input2

双击“JSON input 2”控件，进入“JSON输入”界面；勾选“源定义在一个字段里？”的复选框；在“从字段获取源”处的下拉框中选择字段名，即data；单击“字段”选项卡；添加从字段data中抽取的field和value字段；

 5.配置表输出控件

双击“表输出”控件，进入“表输出”配置界面；单击【新建】按钮，配置数据库连接，配置完成后单击【确认】按钮；单击目标表右侧的【浏览】按钮，选择输出的目标表，即数据表json；勾选“指定数据库字段”的复选框，用于将数据表json的字段与JSON文件json_extract.json中的字段进行匹配；单击“数据库字段”选项卡，再单击【输入字段映射】按钮，弹出“映射匹配”对话框，将“源字段”选项框的字段和“目标字段”选项框对应的字段进行映射匹配；

6.运行转换 

 单击转换工作区顶部的运行按钮，运行创建的json_extract转换。

二、总结

TSV文件的抽取，需要添加“文本文件输入”控件、“表输出”控件以及Hop跳连接线；

CSV文件的抽取，需要添加“CSV文件输入”控件、“表输出”控件以及Hop跳连接线；

HTML网页的数据抽取，需要添加“自定义常量数据”输入控件、“HTTP client”查询控件和“Java代码”脚本控件以及Hop跳连接线；

XML文件的数据抽取，需要添加“Get data from XML”控件、“表输出”控件以及Hop跳连接线；

JSON文件的数据抽取，需要添加“JSON input”控件、“表输出”控件以及Hop跳连接线；

抽取关系型数据库的数据，需要添加“表输入”控件、“表输出”控件以及Hop跳连接线；

抽取非关系型数据库的数据，需要添加“MongoDB input”控件、“JSON input”控件、“表输出”控件以及Hop跳连接线。

————以上内容来自《数据清洗》黑马程序员。