压缩篇:delta-of-delta编码

本文介绍了时序数据库中的一种时间戳压缩方法——delta-of-delta算法,该算法源于Facebook的Gorilla论文,可以显著降低存储成本并提升数据写入和查询性能。文章详细阐述了delta和delta-of-delta压缩的原理,并通过实例展示了其压缩效果。
摘要由CSDN通过智能技术生成

前言

本文主要讨论时序数据库中常见的一种时间戳或者数值压缩方法:delta-of-delta 算法,可以极大地降低数据存储的成本和提高数据写入、查询的性能。

delta-of-delta 压缩时间戳是 Facebook Gorilla 论文中所提到的,论文地址:http://www.vldb.org/pvldb/vol8/p1816-teller.pdf。社区比较火热的 Prometheus TSDB 项目也是借鉴了 Facebook Gorilla 论文中的思路,可以实现很高的时序数据压缩率。

delta 时间戳压缩

时间戳一般采用 long 类型进行存储,需要占用 8byte 存储空间。最直接的优化就是存储时间戳的差值,这里需要起始时间戳和 delta 的最大范围阈值。有两种常用的实现思路:

  • 存储相邻两个时间戳差值 Delta(n) = T(n) - T(n-1)
Unix时间戳 Delta
1571889600000 0
1571889600010 10
1571889600025 15
1571889600030 5
1571889600040 10
  • 存储与起始时间戳的差值 Delta(n) = T(n) - T(0)
Unix时间戳 Delta
1571889600000 0
  • 2
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值