1、合理使用数据表的分区字段和索引字段
MergeTree引擎会根据索引字段进行数据排序,并且根据index_granularity的配置 生成稀疏索引。根据索引字段查询,能快速过滤数据,减少数据的读取,大大提 升查询性能。
2、不要用select *,只查询需要的字段,减少机器负载,提升查询性能
3、通过limit限制查询返回的数据量
4、join查询时小表在右
大表join小表的性能 比小表join大表的性能有数量级的提升。
5、ClickHouse不支持limit下推,sql生成时需要优化,以免sql性能受影响。 【错误示例】 select did from (select did from tableA) limit 10; 【正确示例】 select did from (select did from tableA limit 10)
6、ClickHouse分布式join的性能较差,建议在模型侧将数据聚合成大宽表再导入 ClickHouse。尽量不要大表join 大表
实际建议:
1、明确数据查询的范围,增加条件过滤和查询的数据周期过滤,缩小数据查询范 围。
2、在分组、join等操前做数据过滤,减少计算的数据量
3、用PREWHERE替代WHERE,优先过滤数据,加速查询。
4、对于字符串类型的字段做复杂计算,建议先编码成整数类型,以提升计算性能。
5、使用物化视图加速查询
6、ReplacingMergeTree表引擎数据查询,需要先做数据去重合并提升性能
如果使用去重引擎进行数据查询,且使用argMax函数和final关键字,会导致整个 查询性能较差,需要提前对重复数据做合并去重optimize操作,查询时候直接查 询不需要使用argMax函数和final关键字,提升查询性能。