自己以前的做法
分钟的分区设计分区为yyyymmddhhmi格式的时候
汇总小时就需要用like 或者截取的形式汇总数据,降低效率
------------新思路
若分钟分区设计为yyyymmddhhmi和yyyymmddhh,在汇总小时的时候,就可以选用小时分区直等了
同理 小时分区设置为yyyymmddhh 和 yyymmdd,在天汇总的时候也会优化很多,like和截取做匹配的时候,数据量太多,效率明显会低很多
但是hive分区数太多,会影响性能,要适量
自己以前的做法
分钟的分区设计分区为yyyymmddhhmi格式的时候
汇总小时就需要用like 或者截取的形式汇总数据,降低效率
------------新思路
若分钟分区设计为yyyymmddhhmi和yyyymmddhh,在汇总小时的时候,就可以选用小时分区直等了
同理 小时分区设置为yyyymmddhh 和 yyymmdd,在天汇总的时候也会优化很多,like和截取做匹配的时候,数据量太多,效率明显会低很多
但是hive分区数太多,会影响性能,要适量