今天在处理增量的时候发现有一张全量表的脚本,每天都要对全量数据进行group by操作后,取max最大值,这个sql每天都要跑40多分钟,然后我的初步优化方向是基于此表增加索引,但是奈何由于表空间告警,任何增加表空间的操作都不被允许,此时就考虑如何把这张大表变成小表,此时我发现全量数据大概是几十亿,但是能用到的数据只有几百万,此时我考虑在group by之前,就给此表瘦身,然后再进行group by操作。
然后发现可以先通过增量表先提取相关增量数据,此时正好关联字段存在索引,秒级跑完sql。然后再进行聚合,秒级跑完。此次优化将一个40多分钟的sql优化成了秒级别。更加充分的说明了瘦身的重要性,每次优化前先考虑一下,表里的数据是不是全都要用上,怎么剔除没用的数据。
sql优化~表瘦身的重要性
最新推荐文章于 2024-05-19 17:03:37 发布