oracle 相同的数据不要,通过ORACLE分析函数过滤重复数据

今天，确切的讲应该是昨天下午，研发的同事突然向我寻求SQL技术支援。

看看他的问题，比较麻烦些。

select sbl.fee_terminal_id , sbl.status, smr.status, smr.report_time

from XXX_log sbl, XXX_report smr

where sbl.task_id in ('8888','9999','1111','2222')

and sbl.msg_id=smr.msg_id(+)

and sbl.submit_time>='20080927'

and sbl.submit_time<='20080929'

and smr.report_time>='20080927'

and smr.report_time<='20080929'

and (fee_terminal_id, report_time) in (

select distinct(sbl.fee_terminal_id), max(smr.report_time)

from XXX_log sbl, XXX_report smr

where sbl.task_id in ('8888','9999','1111','2222')

and sbl.msg_id=smr.msg_id(+)

and sbl.submit_time>='20080927'

and sbl.submit_time<='20080929'

and smr.report_time>='20080927'

and smr.report_time<='20080929'

group by fee_terminal_id

);

他需要提取某个时间段内，某个ID(fee_terminal_id)最新时间的状态。其实如果是在一张表中，直接MAX(report_time)就可以了。但是，恰恰这是两张表。每张表中一个状态，通常的情况就是我们首先得到ID及其最大的(最新)报告时间，然后再“自连接”自己进行WHERE条件的查询。

上面的SQL就是通过这种基本的想法来实现的。

一般情况下，应该是没有问题的。但是，这次问题却出现了。主要就是数据太大，执行了30分钟没有看到有结果集返回。

首先因为两张基本表(XXX_log sbl, XXX_report smr)都是分区表，不然数据也不会这么大呀。进行必要的分区工作，要知道，再精良的SQL，数据太多也会有问题。优化的第一步就是“少做”(片面一点讲，性能真的是设计出来的)。

完成后，直接执行原始SQL，基本上180秒左右，可以看到结果集返回。

至此，都有些“跑题”，还有过滤重复呢(其实就是找出最新时间的ID状态即可)。

看着这句SQL我总是有些不死心，看看其实这句SQL的两个部分的SQL语句基本相同，其实一部分就可以得到所有信息，就是因为数据无法得到ID和最新时间对应的值在一句话中。

突然想起了ORACLE的分析函数。OK,使用

LAG

select a,b,c,d

from (select sbl.fee_terminal_id a,

sbl.status b,

smr.status c,

smr.report_time d,

lag(sbl.fee_terminal_id,1,0) over(partition by sbl.fee_terminal_id order by smr.report_time desc) flag

from xxx_log sbl, xxx_report smr

where sbl.task_id in ('8888','9999','1111','2222')

and sbl.msg_id = smr.msg_id(+)

and sbl.submit_time >= '20080927'

and sbl.submit_time <= '20080929'

and smr.report_time >= '20080927'

and smr.report_time <= '20080929')

where flag = 0

优化了原SQL语句。

执行成本从19106下降到10139，结果集返回的时间下降到15秒左右。响应时间有大幅提高。

总结：

此次优化的核心思想，减少SQL的重复执行，能在一句SQL中执行完成的，就不要放到两句或者是多个子查询中执行。

通过使用分析函数LAG，将分类和排序一次完成。一定要多多尝试使用分析函数，往往会给你带来非常的惊喜。

BTW,国庆节快乐。-:)

©著作权归作者所有：来自51CTO博客作者Larry.Yue的原创作品，如需转载，请注明出处，否则将追究法律责任

oracle函数数据ORACLE足迹