千亿级数仓>缓慢变化维

4 缓慢变化维

4.1 什么是缓慢变化维（SCD)

1、缓慢变化维简介

• 缓慢变化维，简称SCD（Slowly Changing Dimensions）
• 一些维度表的数据不是静态的，而是会随着时间而缓慢地变化（这里的缓慢是相对事实表而言，事实表数据变化的速度比维度表快）
• 这种随着时间发生变化的维度称之为缓慢变化维
• 把处理维度表数据历史变化的问题，称为缓慢变化维问题，简称SCD问题

2、举例说明
例如：用根据用户维度，统计不同出生年份的消费金额占比。（80后、90后、00后）。
而期间，用户可能去修改用户数据，例如：将出生日期改成了 1992年。此时，用户维度表就发生了变化。当然这个变化相对事实表的变换要慢。但这个用户维度表的变化，就是缓慢变化维。

4.2 SCD问题的几种解决方案

以下为解决缓慢变化维问题的几种办法：

• 保留原始值
• 改写属性值
• 增加维度新行
• 增加维度新列
• 添加历史表

SCD解决方案 - 保留原始值
某一个属性值绝不会变化。事实表始终按照该原始值进行分组。例如：

• 出生日期的数据，始终按照用户第一次填写的数据为准

SCD解决方案 - 改写属性值

• 对其相应需要重写维度行中的旧值，以当前值替换。因此其始终反映最近的情况
• 当一个维度值的数据源发生变化，并且不需要在维度表中保留变化历史时，通常用新数据来覆盖旧数据。这样的处理使属性所反映的中是最新的赋值。
  • 用户维度表
    
• 这种方法有个前提，用户不关心这个数据的变化
• 这样处理，易于实现，但是没有保留历史数据，无法分析历史变化信息

SCD解决方案 - 增加维度新行

• 数据仓库系统的目标之一是正确地表示历史。典型代表就是拉链表。
  保留历史的数据，并插入新的数据。
  用户维度表
  

SCD解决方案 - 增加维度新列

• 用不同的字段来保存不同的值，就是在表中增加一个字段，这个字段用来保存变化后的当前值，而原来的值则被称为变化前的值。总的来说，这种方法通过添加字段来保存变化后的痕迹。
  用户维度表
  

SCD解决方案 - 使用历史表

• 另外建一个表来保存历史记录，这种方式就是将历史数据与当前数据完全分开来，在维度中只保存当前最新的数据。
  
  这种方式的优点是可以同时分析当前及前一次变化的属性值，缺点是只保留了最后一次变化信息。

数仓项目-拉链表技术介绍

数据仓库的数据模型设计过程中，经常会遇到这样的需求：
1.表中的部分字段会被update，例如：

• 用户的地址，产品的描述信息，品牌信息等等;

2.需要查看某一个时间点或者时间段的历史快照信息，例如：

• 查看某一个产品在历史某一时间点的状态
• 查看某一个用户在过去某一段时间内，更新过几次等等

3.变化的比例和频率不是很大，例如：

• 总共有1000万的会员，每天新增和发生变化的有10万左右

商品历史快照案例

需求：

商品的状态，会随着时间推移而变化，我们需要将商品的所有变化的历史信息都保存下来。如何实现呢？

方案一：快照每一天的数据到数仓

该方案为：

• 每一天都保存一份全量，将所有数据同步到数仓中
• 很多记录都是重复保存，没有任何变化

方案一：MySQL到Hive数仓代码实现

MySQL&Hive初始化

• 1、在MySQL demo库中 创建表

-- 创建数据库
create database if not exists demo;
​
-- 创建商品表
create table if not exists `demo`.`t_product`(
goods_id varchar(50), -- 商品编号
  goods_status varchar(50), -- 商品状态
  createtime varchar(50), -- 商品创建时间
  modifytime varchar(50) -- 商品修改时间
);

• 2、在Hive中 demo库创建表

-- 创建表
create database if not exists `demo`;
​
-- 创建ods层表
create table if not exists `demo`.`ods_product`(
  goods_id string,        -- 商品编号
  goods_status string,    -- 商品状态
  createtime string,      -- 商品创建时间
  modifytime string       -- 商品修改时间
)
partitioned by (dt string)
row format delimited fields terminated by ',' stored as TEXTFILE;
​
-- 创建dw层表
create table if not exists `demo`.`dw_product`(
  goods_id string,        -- 商品编号
  goods_status string,    -- 商品状态
  createtime string,      -- 商品创建时间
  modifytime string       -- 商品修改时间
)
partitioned by (dt string)
row format delimited fields terminated by ',' stored as TEXTFILE;

增量导入12月20日数据

• 1、MySQL数据库导入12月20日数据（4条数据）

insert into `demo`.`t_product`(goods_id, goods_status, createtime, modifytime) values
(