如何构建维度拉链表

1. 什么是拉链表

1)拉链表是针对数据仓库设计中表存储数据的方式而定义的,顾名思义,所谓拉链,就是记录历史。记录一个事物从开始,一直到当前状态的所有变化的信息。

2)使用拉链表既能满足反应数据的历史状态,又可以最大程度的节省存储。

3)拉链表多适用于表中频率和变化比例较低的场景。

2. 如何构建维度拉链表

2.1. 理想情况

1)数仓中需要构建保存历史维度信息的维度表时,一般推荐创建维度拉链表(维度属性的变化频率较低)。

2)维度拉链创建举例(记录员工所属部门发生变化的维度表)如下:

① 新入职时,工号为1和2的员工所属部门均是部门01,构建拉链维度表如下图,注意此时工号1和2的员工所属部门01的生效时间是2024-01,失效时间是9999-12(无穷大)。

② 2024-02月人事调整,工号1和工号2的员工所属部门由部门01变更为部门02,构建拉链维度表如下图,注意此时工号1和2的员工所属部门01的失效时间变更为2024-02,所属部门02属性的失效时间变更为9999-12。采用拉链的方式记录了员工所属部门由部门01变动至部门02的变化。

2.2. 复杂情况

第2节中描述的是一种非常理想的状态,即每次获取的源端数据中仅包含维度发生变化的数据且只是发生了一次变化,如果源端数据中存在重复数据、发生多次变化的数据如何处理?例如: 员工1和2在2024-03部门(相比于2024-02)未发生变化,2024-04部门变更为部门03,2024-05部门仍然为部门03,2024-06部门变更为部门02,以上所有数据同时读取后如何构建拉链?源端数据如下:

针对上述情况的数据,主要思路为先按工号进行分组,分组后按发生时间进行升序排序,排序后相邻数据中所属部门一致的仅取第一条。示例如下:

源端数据处理后,和已存在拉链表数据做拉链,入库时工号相同的数据按发生时间正序插入,插入时需和拉链表中失效时间为9999-12的记录比较,工号一致的且部门一致的记录丢弃,最终维度表记录如下。

Hive是一个开源的数据仓库和查询工具,用于将大数据处理和分析集成在Hadoop生态系统中。拉链表是一种在Hive中实现的数据处理技术,主要用于处理维度数据的历史变化。 拉链表的实现思路是将每个维度表根据指定的生效日期和失效日期进行拆分,生成多个对应不同时间段的维度数据,以保留维度表的历史变化记录。在Hive中,可以通过以下步骤来实现拉链表: 1. 创建维度表和事实表:首先,创建维度表和事实表的Hive表。维度表用于存储维度字段的详细信息,例如员工表、产品表等;事实表用于存储与维度表关联的度量数据,例如销售事实表。 2. 设计拉链表结构:在维度表中添加生效日期(start_date)和失效日期(end_date)字段,用于标识每条记录的有效时间段。通常,失效日期为空或未来日期表示当前有效数据。 3. 插入初始数据:将初始数据插入维度表,即没有历史记录的部分。在start_date字段中填写最早的日期,end_date字段中填写NULL或未来日期。 4. 插入新数据:当维度表中的记录有更新或新增时,需要按照拉链表的原则进行插入。具体操作是将原有的生效日期字段(start_date)的end_date字段更新为当前日期,并将新数据插入到维度表中。 5. 查询数据:在查询维度表和事实表时,可以通过使用日期条件和JOIN操作,将最近生效的维度数据关联到事实数据上,以获得正确的历史维度信息。 拉链表的实现使得Hive可以处理维度数据的历史变化情况,并提供了便捷的方式来查询和分析历史数据。它对于构建具有时间依赖性的报表和分析非常有用。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值