Clickhouse中ZK的作用

我们有个标签表,单表大概1P

https://www.163.com/dy/article/H4RAV2NC0511D3QS.html

ClickHouse 社区版原生的 Replication 方案有太多的信息存在 ZooKeeper 上,为了保证服务,一般会有一个或者几个副本,在字节内部主要是两个副本的方案。

早期内部曾有一个 400 个节点的集群,只存了半年的数据。突然有一天团队发现服务特别不稳定,ZK 的响应经常超时,table 可能变成只读模式,发现 znode 太多。而且 ZK 并不是可水平扩展的框架,按照当时的数据预估,整个服务很快就会不可用了。

团队分析后得出结论,实际上 ClickHouse 把 ZK 当成了三种服务的结合,而不仅把它当作一个 Coordinate service,可能这也是大家使用 ZK 的常用用法。ClickHouse 还会把它当作 Log Service,很多行为日志等数字的信息也会存在 ZK 上;还会作为表的 catalog service,像表的一些 schema 信息也会在 ZK 上做校验,这就会导致 ZK 上接入的数量与数据总量会成线性关系。按照这样的数据增长预估,ClickHouse 可能就根本无法支撑头条、抖音的全量需求。

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值