数据清洗第八章作业（8.3.5-8.3.6）

一、加载用户数据至用户维度表

1.打开Kettle工具创建转换load_dim_customer，并添加“表输出”控件、“映射（子转换）”控价、“字段选择”控件、值映射控件、“维度查询/更新”控件，以及Hop跳连接线。

2.配置“表输入”控件，进入“表输入”界面

单击“新建”按钮，配置数据库连接，配置完成后单击“确认”按钮

在SQL数据框中编写用于获取字段customer_last_update中的最大值，将该值替换成1970-01-01 00:00:00并赋值给临时字段max_dim_customer_last_uodate；单击“预览”按钮，查看临时字段max_dim_customer_last_uodate是否将默认值视为1970-01-01 00:00:00

3.配置“表输入2”控件

单击新建按钮，配置数据库连接，配置完成后单击“确认”按钮，在SQL框中编写SQL语句，用于获取数据库sakila中的数据表customer中的最新数据，单击“确认”按钮，完成“表输入2”的配置，这里需要注意的是，获取数据表customer的最新数据中包含字段address_id，因此需要创建一个子转换。
1.打开kettle工具创建转换fetch_address，并添加“映射输入规范”控件，“数据库查询”控件，“过滤记录控件，“JavaScript代码”控件，“字段选择”控件、“映射输出规范”控件以及Hop跳连接线。


添加映射字段address_id，该字段为传递的参数，添加完毕后单击“确认”按钮，完成“映射输入规范”控件的配置，


3.配置“数据库查询”控件
双击数据库查询控件，进入数据库查询界面，单击“新建”按钮，配置数据库连接，配置完成后单击确认按钮，单击“浏览”按钮，添加数据表address；在“查询所需关键字”框address中数据和“映射输入规范”控件流中数据的比较条件。
4.配置“数据库查询2”控件，双击“数据库查询2”控件，进入“数据库查询”界面


单击“新建”按钮，配置数据库连接，配置完成后单击“确认”按钮，单击表中浏览按钮后，添加数据表city，在“查询所需的关键字”框中添加查询所需的关键字字段city_id，作为数据表city中数据与“数据库查询2”控件流中数据比较条件，在“查询表返回值”框中添加查询表返回值。




5.配置“数据库查询3”控件，双击图中“数据库查询3”控件，进入“数据库查询3”界面。

单击“新建”按钮，配置数据库连接，配置完成后单击“确认”按钮。

单击“浏览”按钮，添加数据表country；在“查询所需关键字”框中添加查询所需的关键字字段country_id，用作制定数据流与表字段的数据进行比较条件，在“查询表返回的值”框中添加查询表返回的值。

6.配置“过滤记录”控件，进入过滤记录界面。

“条件”处设置过滤条件，对有第二个地址的用户进行过滤操作，单击右边的框，弹出“字段”对话框，选择要过滤的字段address2，单击“=”框，弹出“函数：”对话框，选择过滤条件，即指定过滤不为空的数据。

在图中“发送true数据给步骤：”后的下拉列表中选择“JavaScript代码”，将有第二个地址的用户放在JavaScript控件中，用于后续操作，在“发送false数据给步骤”后的下拉列表中选择“字段选择”，将没有第二个地址的用户进行字段选择处理。

7.配置“JavaScript代码”控件，进入“JavaScript代码”
界面，勾选“兼容模式”，复选框，使得“JavaScript代码”控件的兼容性更强，在“JavaScript代码”代码框中编写代码。

8.配置字段选择控价，进入“选择/改名值”界面，在“移除”选项卡的“移除的字段：”处添加要移除的字段。

9.配置“映射”字段，在“映射”控件，进入“映射”界面，单击“转换”处的Browser按钮，选择添加转换fetch_address，用于获取用户的地址信息。

10.配置“字段选择”控件，双击图中的“字段选择”控件，进入“选择/改名”
界面，在“元数据”选项卡中“需要修改元数据的字段”处添加字段active，由于数据表customer中字段active的类型为tinyint，因此需要将字段active的类型改为String，与维度表dim_customer中字段customer_active的类型对应。

11.配置“值映射”控件，进入值映射界面，在“使用字段名”后的下拉列表中选择字段active；在“字段值”框中添加源值和目标值，由于数据表customer中字段active的值为1和0，对应的是Y和N，这里将Y替换为Yes，将N替换为No。

12。配置“维度查询/更新”控件，双击“维度查询/更新”控件，进入“维度查询/更新”界面，单击“新建”按钮，配置数据库连接，配置完成后单击“确认”按钮。
单击目标表右侧得“浏览”按钮，选择输出目标表，即维度表dim_customer，在“关键字”选项卡添加字段customer_id，用于指定维度表字段，和流字段的比较条件。在“字段”选项卡处添加查询/更新字段。“代理关键字段”后的下拉列表中选择customer_key为关键代理字段，并指定“创建代理键”，为使用自增字段，在“Version字段”后的下拉列表中选择customer_version_number，在“Stream日期字段”后的下拉列表中选择last_update，在“开始日期字段”后的下拉列表中选择customer_vaild_from，在“截止日期字段”后的下拉列表中选择customer_vaild_through。



13.运行转换

二 加载数据商店数据到商店维度表

1.打开Kettle工具，创建转换，使用Kettle工具创建转换load_dim_store，并添加“表输入”控件吗，“映射（转换）”控件，“数据库查询”控件，“维度查询/更新”控件，以及Hop跳连接线。

2.配置“表输入”控件，双击“表输入”控件，进入“表输入”界面

单击“新建”按钮，配置数据库连接，配置完成后单击确认按钮

在SQL框中编写代码，用于获取字段store_last_update中的最大值，将该值替换为1970-01-01 00:00:00并赋值给max_dim_store_last_update;单击“预览”按钮，查看临时字段max_dim_film_last_update是否将默认值设置为1970 01-01 00:00:00.



4.配置“映射”控件，双击“映射（字转换）”控件，进行“映射（执行子转换任务）”界面，单击“转换”处的Browser按钮，选择添加fetch_address，用于获取用户的地址信息。

5.配置“数据库查询”控件，双击图中数据库查询控件，进入数据库查询界面，单击新建按钮，配置数据库连接，单击“确认”按钮。单击“浏览”按钮，添加数据表staff_id，用于指定字段和流字段的比较条件，在“查询表返回值”框中添加查询表返回值，即员工姓氏和名字。


6.配置“维度查询/更新”控件，双击“维度查询/更新”控件，进入“维度查询/更新”界面，配置数据库连接。

单击“浏览”按钮，选择输出的目标表，即维度表dim_store，在“关键字”选项卡添加关键字段store_id，用于指定维度表字段和流字段的比较条件，在“字段”选项卡中添加查询/更新字段，用于指定维度表字段store_id和流字段store_id，数据一致需要更新字段，在“代理字段”后的下拉列表中选择“store_key”，并指定“创建代理键”为使用自增字段，在“Version字段”后的下拉列表中选择store_version_number；在“Stream日期字段”后的下拉列表中选择last_update，在“开始日期”字段后的下拉列表选择store_valid_from；在“截止日期字段”后的下拉列表选择store_vaild_through。



7.运行转换load_dim_store,并且查看维度表dim_store中的数据。