clickHouse SQL调优

1、合理使用数据表的分区字段和索引字段

MergeTree引擎会根据索引字段进行数据排序,并且根据index_granularity的配置 生成稀疏索引。根据索引字段查询,能快速过滤数据,减少数据的读取,大大提 升查询性能。

2、不要用select *,只查询需要的字段,减少机器负载,提升查询性能

3、通过limit限制查询返回的数据量

4、join查询时小表在右

大表join小表的性能 比小表join大表的性能有数量级的提升。

5、ClickHouse不支持limit下推,sql生成时需要优化,以免sql性能受影响。 【错误示例】 select did from (select did from tableA) limit 10; 【正确示例】 select did from (select did from tableA limit 10)

6、ClickHouse分布式join的性能较差,建议在模型侧将数据聚合成大宽表再导入 ClickHouse。尽量不要大表join 大表

实际建议:

1、明确数据查询的范围,增加条件过滤和查询的数据周期过滤,缩小数据查询范 围。 

2、在分组、join等操前做数据过滤,减少计算的数据量

3、用PREWHERE替代WHERE,优先过滤数据,加速查询。

4、对于字符串类型的字段做复杂计算,建议先编码成整数类型,以提升计算性能。

5、使用物化视图加速查询

6、ReplacingMergeTree表引擎数据查询,需要先做数据去重合并提升性能

如果使用去重引擎进行数据查询,且使用argMax函数和final关键字,会导致整个 查询性能较差,需要提前对重复数据做合并去重optimize操作,查询时候直接查 询不需要使用argMax函数和final关键字,提升查询性能。

  • 22
    点赞
  • 11
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值