解决缓慢变化维—拉链表

什么是缓慢变化维（SCD)、

1、缓慢变化维简介

1. 缓慢变化维，简称SCD（Slowly Changing Dimensions）
2. 一些维度表的数据不是静态的，而是会随着时间而缓慢地变化（这里的缓慢是相对事实表而言，事实表数据变化的速度比维度表快）
3. 这种随着时间发生变化的维度称之为缓慢变化维
4. 把处理维度表数据历史变化的问题，称为缓慢变化维问题，简称SCD问题

2、举例说明

例如：用根据用户维度，统计不同出生年份的消费金额占比。（80后、90后、00后）。

而期间，用户可能去修改用户数据，例如：将出生日期改成了 1992年。此时，用户维度表就发生了变化。当然这个变化相对事实表的变换要慢。但这个用户维度表的变化，就是缓慢变化维。

这个用户的数据不是一直不变，而是有可能发生变化。例如：用户修改了出生日期、或者用户修改了住址。

2 SCD问题的几种解决方案

以下为解决缓慢变化维问题的几种办法：

• 保留原始值
• 改写属性值
• 增加维度新行
• 增加维度新列
• 添加历史表

SCD解决方案 - 保留原始值

某一个属性值绝不会变化。事实表始终按照该原始值进行分组。例如：

• 出生日期的数据，始终按照用户第一次填写的数据为准

SCD解决方案 - 改写属性值

• 对其相应需要重写维度行中的旧值，以当前值替换。因此其始终反映最近的情况。
• 当一个维度值的数据源发生变化，并且不需要在维度表中保留变化历史时，通常用新数据来覆盖旧数据。这样的处理使属性所反映的中是最新的赋值。
   

 

• 这种方法有个前提，用户不关心这个数据的变化
• 这样处理，易于实现，但是没有保留历史数据，无法分析历史变化信息

 

SCD解决方案 - 增加维度新行

数据仓库系统的目标之一是正确地表示历史。典型代表就是拉链表。

保留历史的数据，并插入新的数据。

SCD解决方案 - 增加维度新列

用不同的字段来保存不同的值，就是在表中增加一个字段，这个字段用来保存变化后的当前值，而原来的值则被称为变化前的值。总的来说，这种方法通过添加字段来保存变化后的痕迹。

SCD解决方案 - 使用历史表

另外建一个表来保存历史记录，这种方式就是将历史数据与当前数据完全分开来，在维度中只保存当前最新的数据。 

这种方式的优点是可以同时分析当前及前一次变化的属性值，缺点是只保留了最后一次变化信息。

 

数仓项目-拉链表技术介绍

数据仓库的数据模型设计过程中，经常会遇到这样的需求：

1. 表中的部分字段会被update，例如：

• 用户的地址，产品的描述信息，品牌信息等等;

1. 需要查看某一个时间点或者时间段的历史快照信息，例如：

• 查看某一个产品在历史某一时间点的状态
• 查看某一个用户在过去某一段时间内，更新过几次等等

1. 变化的比例和频率不是很大，例如：

• 总共有1000万的会员，每天新增和发生变化的有10万左右
   

 

2、在Hive中 demo数据库   创建ods层表

 
create table ods_product_2(
                              goods_id string,
                              goods_status string,
                              createtime string,
                              modifytime string
)   partitioned by (dt string)
    row format delimited fields terminated by ',' stored as TEXTFILE;

Hive dw层创建拉链表 

create table if not exists `demo`.`dw_product_2`(
                                                    goods_id string, -- 商品编号
                                                    goods_status string, -- 商品状态
                                                    createtime string, -- 商品创建时间
                                                    modifytime string,  -- 商品修改时间
                                                    dw_start_date string,
                                                    dw_end_date string
 
 
)
    row format delimited fields terminated by ',' stored as TEXTFILE;

全量导入2019年12月20日数据

1、MySQL数据库导入12月20日数据（4条数据）

insert into `demo`.`t_product_2`(goods_id, goods_status, createtime, modifytime) values
('001', '待审核', '2019-12-18', '2019-12-20'),
('002', '待售', '2019-12-19', '2019-12-20'),
('003', '在售', '2019-12-20', '2019-12-20'),
('004', '已删除', '2019-12-15', '2019-12-20');

2、使用Kettle进行全量同步MySQL数据到Hive ods层表

Kettle组件图

设置命名参数

3 创建Hive分区

-- 创建 分区
alter table `demo`.`ods_product_2` add if not exists partition (dt='2019-12-20');
 
alter table `demo`.`ods_product_2` add if not exists partition (dt='2019-12-21');

-- 查看分区
 
show partitions ods_product_2;
 
-- 查看属性
desc  ods_product_2;

 

使用 kettle 从mysql 查询数据到  hive 的元数据路径中 保存为txt 格式
kettle 表输入  到  Hadoop File Ouput

SELECT
*
FROM t_product_2
where modifytime <= '${dt}'


3、编写SQL从ods导入dw当天最新的数据 

insert overwrite table `demo`.`dw_product_2`
select
    goods_id,
    goods_status,
    createtime,
    modifytime,
    modifytime as dw_start_date,
    '9999-12-31' as dw_end_date
from  ods_product_2
where dt='2019-12-20';

3、编写SQL处理dw层历史数据，重新计算之前的dw_end_date
重新计算 dw 层 拉链表的失效时间

-- 重新计算 dw 层 拉链表中的失效时间
select
       t1.goods_id,
       t1.goods_status,
       t1.createtime,
       t1.modifytime,
       t1.dw_start_date,
       case  when (t2.goods_id is not  null and t1.dw_end_date > '2019-12-21')
then  '2019-12-21'
else t1.dw_end_date
end  as dw_end_date
from dw_product_2 t1
left join
    (select * from ods_product_2 where  dt='2019-12-21') t2
on  t1.goods_id=t2.goods_id ;

6、最终进行 dw 和 ods 的 拉链合并  合并当天最新的数据和历史数据到

--  合并 当天 最新的数据 和历史数据
insert overwrite table `demo`.`dw_product_2`
select
    t1.goods_id,
    t1.goods_status,
    t1.createtime,
    t1.modifytime,
    t1.dw_start_date,
    case  when (t2.goods_id is not  null and t1.dw_end_date > '2019-12-21')
              then  '2019-12-21'
          else t1.dw_end_date
        end  as dw_end_date
from dw_product_2 t1
         left join
     (select * from ods_product_2 where  dt='2019-12-21') t2
     on  t1.goods_id=t2.goods_id
union all select
    goods_id,
    goods_status,
    createtime,
    modifytime,
    modifytime as dw_start_date,
    '9999-12-31' as dw_end_date
from ods_product_2  where  dt='2019-12-21'
order by dw_start_date,goods_id ;


查询拉链表
1、获取2019-12-20日的历史快照数据
select * from demo.dw_product_2 where dw_start_date <= '2019-12-20' and dw_end_date > '2019-12-20' order by goods_id;
 
 
2、获取最新的商品快照数据
select * from demo.dw_product_2 where dw_end_date = '9999-12-31' order by goods_id;