朋友问:
5000万数据的一张表,怎么去重快,根据两个字段判断是否重复。
回复之:
把2个字段以及主键id select 出来建立一张临时表t1,
t1建立好主键索引以及2个对比的字段联合索引。
然后在临时表里面 比对重复的记录,
把重复的记录录入第二张临时表t2,t2表结构和t1一模一样。
然后根据你的业务来决定如何处理t2表里面的重复记录,用t2关联原来的5000W记录的表来进行处理,
大概通常的是group by2个字段,取出主键id较大的值的记录删除掉。
来自 “ ITPUB博客 ” ,链接:http://blog.itpub.net/26230597/viewspace-1088836/,如需转载,请注明出处,否则将追究法律责任。
转载于:http://blog.itpub.net/26230597/viewspace-1088836/