解决ClickHouse 引擎ReplacingMergeTree更新数据,数据double问题

       在我们使用 ReplacingMergeTree引擎更新数据时,ClickHouse会根据最新数据来刷新数据,刷新数据是有一个频率的,当我们更新数据但是数据库没有merge时,此时做sum或者count时,数据量会翻倍。而手动执行merge,又会压榨数据库性能,所以此方式不是一种有效的解决办法。这是我们需要的时最新的一批数据(或者说二选一)。

      1、这时我们熟悉关系型数据库的话,可以使用max来筛选出最大的一条记录,select ymd,sum(num),sum(price)  from (select ymd,max(num) as num,max(prince) as prince from aa group ymd) group by ymd,这样我们得到的数据就是两条数据中最大的一条,当数据库执行自带merge操作时,这时同一主键只会存在一条数据。

      2、也可以使用ClickHouse自带的函数,groupArray(1)(num)[1],groupArray(1)(prince)[1] 也可以解决此问题。可以看官方文档了解更多:https://clickhouse.yandex/docs/en/query_language/agg_functions/reference/#grouparray-x-grouparray-max-size-x

©️2020 CSDN 皮肤主题: 大白 设计师:CSDN官方博客 返回首页