1. 概要
全量表使用过程中存在需比较数据变化情况,如按天比较时,需获取当前日期与前一日数据差异。
2. 方法
2.1 md5值比较
示例
with t1 as (
select col1, col2..., MD5(concat_ws('-', nvl(col1, ''), nvl(col2,''), ....)) as md_val
from table1
),
t2 as (
select col1, col2..., MD5(concat_ws('-', nvl(col1, ''), nvl(col2,''), ....)) as md_val
from table2
)
select * from t1
left jion t2 on t1.col1 = t2.col1
where t1.Wmd_val <> t2.md_val
优势
用MD5来排序和比较有比较大的好处,一般业务数据都很长,几十个字段很正常,而MD5只有128位,可以更快的进行数据比较。
说明
由于MD5存在碰撞概率,也就是不同的输入可能得到同一个MD5值。
如果MD5值不相同的,可以直接认定数据不相同;但MD5值相同的话,则可能需要进一步比较实际数据内容。
因此,用于比较两表数据内容差异时,可能存在误差,更适用于排序去重。
2.2 minus函数取两表差集
select * from table1
minus
select * from table2;
2.3 拓展:intersect函数取两表交集
select * from table1
intersect
select * from table2;