梁敬彬梁敬弘兄弟出品
往期回顾
SQL等价改写优化案例精选第一部【一统天下】① count(case when)的合并魔力
SQL等价改写优化案例精选第一部【一统天下】②分析函数的穿透之力
SQL等价改写优化案例精选第一部【一统天下】③ group by (case when)的聚合艺术
SQL优化路上,我们常能见到通过UNION/UNION ALL组合多个相似查询的写法,这种方式虽然清晰易懂,但对于那些查询同一表且条件相似的情况,使用OR条件替代往往能带来显著的性能提升。本案例将展示如何识别并优化这类场景。
案例4 寻找用or替代union all的时机
select peer_id 对端标识,
null 源域名,
null 目标域名,
alert_type 告警类型,
log_time 告警时间,
cause 告警内容,
deal_log 处理状态,
deal_staff 处理人,
deal_time 处理时间,
remark 备注
from dcc_sys_log
where action = 'disconnect'
and cause like '对端被关闭%'
and deal_log = 'deal_log'
and alert_type = 'alert_type'
and log_time >= TO_DATE('2010-08-02', 'YYYY-MM-DD')
and log_time < TO_DATE('2010-08-03', 'YYYY-MM-DD') + 1
union
(select peer_id 对端标识,
origin_host 源域名,
dest_host 目标域名,
alert_type 告警类型,
log_time 告警时间,
cause 告警内容,
deal_log 处理状态,
deal_staff 处理人,
deal_time 处理时间,
remark 备注
from dcc_ne_log
where result = 0
and cause like 'parser失败%'
and deal_log = 'deal_log'
and alert_type = 'alert_type'
and log_time >= TO_DATE('2010-08-02', 'YYYY-MM-DD')
and log_time < TO_DATE('2010-08-03', 'YYYY-MM-DD') + 1)
union
(select peer_id 对端标识,
origin_host 源域名,
dest_host 目标域名,
alert_type 告警类型,
log_time 告警时间,
cause 告警内容,
deal_log 处理状态,
deal_staff 处理人,
deal_time 处理时间,
remark 备注
from dcc_ne_log
where result_code = 'DIAMETER_UNABLE_TO_DELIVER'
and svcctx_id like 'SR-Timeout%'
and deal_log = 'deal_log'
and alert_type = 'alert_type'
and log_time >= TO_DATE('2010-08-02', 'YYYY-MM-DD')
and log_time < TO_DATE('2010-08-03', 'YYYY-MM-DD') + 1)
union
(select peer_id 对端标识,
null 源域名,
null 目标域名,
alert_type 告警类型,
log_time 告警时间,
cause 告警内容,
deal_log 处理状态,
deal_staff 处理人,
deal_time 处理时间,
remark 备注
from dcc_sys_log
where action = 'disconnect'
and cause like '接收消息异常%'
and deal_log = 'deal_log'
and alert_type = 'alert_type'
and log_time >= TO_DATE('2010-08-02', 'YYYY-MM-DD')
and log_time < TO_DATE('2010-08-03', 'YYYY-MM-DD') + 1)
很明显,此处的UNION ALL 完全可以用OR 来改造,等价改写,减少表扫描次数。优化改造后SQL为:
select peer_id 对端标识,
null 源域名,
null 目标域名,
alert_type 告警类型,
log_time 告警时间,
cause 告警内容,
deal_log 处理状态,
deal_staff 处理人,
deal_time 处理时间,
remark 备注
from dcc_sys_log
where action = 'disconnect'
and (cause like '对端被关闭%' or cause like '接收消息异常%')
and deal_log = 'deal_log'
and alert_type = 'alert_type'
and log_time >= TO_DATE('2010-08-02', 'YYYY-MM-DD')
and log_time < TO_DATE('2010-08-03', 'YYYY-MM-DD') + 1
union
select peer_id 对端标识,
origin_host 源域名,
dest_host 目标域名,
alert_type 告警类型,
log_time 告警时间,
cause 告警内容,
deal_log 处理状态,
deal_staff 处理人,
deal_time 处理时间,
remark 备注
from dcc_ne_log
where (result = 0 and cause like 'parser失败%')
or (result_code = 'DIAMETER_UNABLE_TO_DELIVER' and svcctx_id like 'SR-Timeout%')
and deal_log = 'deal_log'
and alert_type = 'alert_type'
and log_time >= TO_DATE('2010-08-02', 'YYYY-MM-DD')
and log_time < TO_DATE('2010-08-03', 'YYYY-MM-DD') + 1
分析问题
仔细观察上述SQL,我发现几个明显的优化机会:
- 第一和第四部分都从dcc_sys_log表查询,条件几乎完全相同,只是cause的模糊匹配条件不同
- 第二和第三部分都从dcc_ne_log表查询,除了特定条件外,其他过滤条件完全相同
- 每个子查询都包含相同的时间范围、deal_log和alert_type条件
这种情况下,我们可以通过合并相同表的查询,使用OR条件替代UNION,减少表扫描次数。
select peer_id 对端标识,
null 源域名,
null 目标域名,
alert_type 告警类型,
log_time 告警时间,
cause 告警内容,
deal_log 处理状态,
deal_staff 处理人,
deal_time 处理时间,
remark 备注
from dcc_sys_log
where action = 'disconnect'
and (cause like '对端被关闭%' or cause like '接收消息异常%')
and deal_log = 'deal_log'
and alert_type = 'alert_type'
and log_time >= TO_DATE('2010-08-02', 'YYYY-MM-DD')
and log_time < TO_DATE('2010-08-03', 'YYYY-MM-DD') + 1
union
select peer_id 对端标识,
origin_host 源域名,
dest_host 目标域名,
alert_type 告警类型,
log_time 告警时间,
cause 告警内容,
deal_log 处理状态,
deal_staff 处理人,
deal_time 处理时间,
remark 备注
from dcc_ne_log
where (result = 0 and cause like 'parser失败%')
or (result_code = 'DIAMETER_UNABLE_TO_DELIVER' and svcctx_id like 'SR-Timeout%')
and deal_log = 'deal_log'
and alert_type = 'alert_type'
and log_time >= TO_DATE('2010-08-02', 'YYYY-MM-DD')
and log_time < TO_DATE('2010-08-03', 'YYYY-MM-DD') + 1
优化效果分析
这个优化带来了几个明显的好处:
- 表扫描次数减少:原来需要扫描dcc_sys_log表2次,dcc_ne_log表2次,现在各只需扫描1次
- I/O减少:减少了50%的表扫描,相应减少了磁盘I/O操作
- 代码简化:代码行数从34行减少到24行,更加简洁易读
- 排序操作减少:UNION操作需要对结果进行排序去重,合并后的查询能减少排序工作量
小结
本例展示了"一统天下"优化思想中的重要一环:通过OR条件替代UNION操作,减少表扫描次数。这种简单却有效的优化方法,在实际工作中经常被忽视。通过识别SQL中的重复访问模式,将相似条件的查询合并,我们可以在不改变业务逻辑的前提下,显著提升SQL执行效率。
在实际优化工作中,建议首先尝试通过EXPLAIN PLAN分析查询性能,然后再决定是使用OR条件还是保留UNION结构,以获得最佳性能。
未完待续…
SQL等价改写优化案例精选第二部【精兵简政】① 莫名其妙的行列转换