数仓中的全量表,增量表,拉链表,流水表,快照表

本文深入解析了存量、流量和增量的基本概念,并重点讲解了全量表、增量表和拉链表在公司运营中的应用,包括它们的区别、设计原则和适用场景。通过实例和链接分享,帮助读者理解数据表设计策略及其在数据高效管理中的价值。
摘要由CSDN通过智能技术生成

预热:

我们先从几个物理概念入手理解什么是流量,存量,增量
(1)存量:系统在某一时点时的所保有的数量;
(2)流量:是指在某一段时间内流入/出系统的数量
(3)增量:则是指在某一段时间内系统中保有数量的变化
(4)增量=流入量–流出量
(5)本期期末存量=上期期末存量+本期内增量



正题
一般公司只是简单分成 全量表,增量表,和拉链表。所以重点关注如下三个表就OK了。

全量表:每天的所有的最新状态的数据。
(1)全量表,有无变化,都要报
(2)每次上报的数据都是所有的数据(变化的 + 没有变化的)

增量表:新增数据,增量数据是上次导出之后的新数据。
(1)记录每次增加的量,而不是总量;
(2)流量是指在一定时间内的增量;
(3)流量一般设计成增量表(日报-常用、月报);
(4)流量和存量的区别:流量是增量;存量是总量;
(5)增量表,只报变化量,无变化不用报
在这里插入图片描述


拉链表:
(1)记录一个事物从开始,一直到当前状态的所有变化的信息;
(2)拉链表每次上报的都是历史记录的最终状态,是记录在当前时刻的历史总量;
(3)当前记录存的是当前时间之前的所有历史记录的最后变化量(总量);
(4)存量是在某一时刻的总量;
(5)存量一般设计成拉链表(月报-常用、日报);
(6)流量和存量的区别:流量是增量;存量是总量;
(7)封链时间可以是2999,3000,9999等等比较大的年份;拉链表到期数据要报0;
(8)拉链表和增量表的共同点:表结构基本一样。



在有些情况下,为了保持历史的一些状态,需要用拉链表来做,这样做目的在可以保留所有状态的情况下可以节省空间。

拉链表适用于以下几种情况吧 数据量有点大,表中某些字段有变化,但是呢变化的频率也不是很高,业务需求呢又需要统计这种变化状态,每天全量一份呢,有点不太现实, 不仅浪费了存储空间,有时可能业务统计也有点麻烦,

这时,拉链表的作用就提现出来了,既节省空间,又满足了需求。

关于拉链表设计的案例:可以看看下面的博客
http://www.cnblogs.com/wujin/p/6121754.html
https://blog.csdn.net/mtj66/article/details/78019370
http://www.jianshu.com/p/799252156379
http://lxw1234.com/archives/2015/04/20.htm


前段时间,我同事还问我拉链表好处。这个也是面试的时候,我常问求职者的。

流水表:对于表的每一个修改都会记录,可以用于反映实际记录的变更

区别于拉链表: 
拉链表通常是对账户信息的历史变动进行处理保留的结果,流水表是每天的交易形成的历史;

流水表用于统计业务相关情况,拉链表用于统计账户及客户的情况


其实有的公司是这样定义的:
在这里插入图片描述
按照每天存放的数据以及是否按天分区可以分为增量表,全量表和快照表
在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值