mysql历史拉链表_极限储存-历史拉链表(上)_mysql

极限存储--历史拉链表(上)

在数据仓库的数据模型设计过程中,经常会遇到这样的需求:

1. 数据量比较大;

2. 表中的部分字段会被update,如用户的地址,产品的描述信息,订单的状态等等;

3. 需要查看某一个时间点或者时间段的历史快照信息,比如,查看某一个订单在历史某一个时间点的状态,

比如,查看某一个用户在过去某一段时间内,更新过几次等等;

4. 变化的比例和频率不是很大,比如,总共有1000万的会员,每天新增和发生变化的有10万左右;

5. 如果对这边表每天都保留一份全量,那么每次全量中会保存很多不变的信息,对存储是极大的浪费;

拉链历史表,既能满足反应数据的历史状态,又可以最大程度的节省存储;

举个简单例子,比如有一张订单表,6月20号有3条记录:

6d67bbf0a9524a1be90296b896165e72.png

到6月21日,表中有5条记录:

38a3f15e199c4c805ce6b575a79c3bcf.png

到6月22日,表中有6条记录:

7d49738505cde3d89f3d9075433312ef.png

数据仓库中对该表的保留方法:

1. 只保留一份全量,则数据和6月22日的记录一样,如果需要查看6月21日订单001的状态,则无法满足;

2. 每天都保留一份全量,则数据仓库中的该表共有14条记录,但好多记录都是重复保存,没有任务变化,如订单002,004,数据量大了,会造成很大的存储浪费;

如果在数据仓库中设计成历史拉链表保存该表,则会有下面这样一张表:

0ad31784c63fc7aa8617e54c5e5e874d.png

说明:

1. dw_begin_date表示该条记录的生命周期开始时间,dw_end_date表示该条记录的生命周期结束时间;

2. dw_end_date = '9999-12-31'表示该条记录目前处于有效状态;

3. 如果查询当前所有有效的记录,则select * from order_his where dw_end_date = '9999-12-31'

4. 如果查询2012-06-21的历史快照,则select * from order_his where dw_begin_date <= '2012-06-21' and end_date >= '2012-06-21',这条语句会查询到以下记录:

c0bcb2d9622705823ff1a759821bab9c.png

和源表在6月21日的记录完全一致:

d4a4b3d9b8887645bbd3d6f718067117.png

可以看出,这样的历史拉链表,既能满足对历史数据的需求,又能很大程度的节省存储资源;

欢迎大家阅读《极限储存-历史拉链表(上)_mysql》,跪求各位点评,by 搞代码

e7ce419cf2d6ad34d01da2ceb8829eed.png

微信 赏一包辣条吧~

023a57327877fb4402bcc76911ec18ea.png

支付宝 赏一听可乐吧~

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值