clickhouse如何做冷,热数据分级存储?

在海量数据分析场景中,冷热数据分级存储能有效降低成本。本文介绍了ClickHouse中冷热数据存储的一般思路,包括按存储使用率和时间范围迁移数据,并提供了两种实现方式:直接使用ClickHouse完成数据迁移和利用HDFS策略进行分级存储。
摘要由CSDN通过智能技术生成

需要冷热数据分级存储吗?

  在海量数据分析场景下,比如每日40TB增量的情况下,如果将所有的数据都放到SSD,或者机械磁盘,如果将数据仅存储1年,那么每年的数据存储规模将达到31.3PB(最小存储规模=40TB日增量大小 x 365 x 2.2冗余)。而日增40TB数据,在电商,视频,网络,工业互联网,社交应用行业的中大企业可谓常见,从商业管理角度来看,如果采用同样的存储方式,将会花费巨大的存储费用,从技术角度来看,将一些不常用的数据放到昂贵的存储上进行存储显然是不合理的。
  因此通常会使用分级存储策略,将经常使用,我们称为热数据,对性能要求较高的数据存储在性能较高的存储设备商,如SSD,FLUSH上;将偶尔使用,我们称为暖数据,对性能要求不太高的数据存储在普通存储硬件上,通过阵列冗余的方式提升性能,降低存储成本,如Sas,sata盘上;对于不经常使用,我们称为冷数据,对性能要求不太高的数据,存储到廉价的存储上,比如磁带,低廉Das设备,通过软件进行冗余,防止数据丢失;
  在clickhouse构建的数据体系中,通常未能完全区分暖数据和热数据的区别,通常存储在相同的介质中。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

时空琴弦

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值