mysql数据某字段重复。删除该记录;重复数据删除

mysql数据某字段重复。删除该记录

如:人员信息,身份证号重复,依据记录添加的时间,保留最新的,删除之前历史记录

方式1:只适用于数据量少的情况

1、查询重复数据并且按照添加时间正序排列


    SELECT
    t.id
FROM
    (
        SELECT
            t.id
        FROM
            t_user_info t
        ORDER BY
            t.add_time
        LIMIT 100000000                --保证分组时,能按照添加时间,获取之前的数据的id
    ) t
GROUP BY
    t.idno
HAVING                                       --获得重复数据
    count(idno) > 1

 

2、删除历史数据

 

DELETE
FROM
    t_user_info
WHERE
    id IN (
        SELECT
            t.id
        FROM
            (
                SELECT
                    t.*
                FROM
                    t_user_info t
                ORDER BY
                    t.add_time
                LIMIT 100000000
            ) t
        GROUP BY
            t.idno
        HAVING
            count(idno) > 1         -- id 在重复的数据中       
    )

方式二:数据量大的情况下(几百万至上千万),数据重复

 方式1的语句中,先查询重复数据的id,再用in语句删除相应id的数据。数据量大的时候,无法执行解决方式,将重复的数据存入临时表中,删除直接关联临时表进行处理。同理,大批量数据处理是也可以采用该方式。

1、创建临时表

CREATE TABLE `t_temp_member` (
  `id` varchar(50) NOT NULL COMMENT '主键',
  `source_id` varchar(100) DEFAULT NULL COMMENT '需要处理数据的id',
  PRIMARY KEY (`id`) USING BTREE
) ENGINE=InnoDB DEFAULT CHARSET=utf8 ROW_FORMAT=DYNAMIC COMMENT='处理重复数据的临时表';

2、将需要删除的数据主键(或者是其他判断条件)存入临时表

INSERT INTO t_temp_member(id, source_id)  (
SELECT
            t.id,t.source_id
        FROM
            (
                SELECT
                    t.id,t.source_id
                FROM
                    t_member_info t      -- 待处理的数据表
                WHERE
                    t.delstatus  = 0
                ORDER BY
                    t.mod_time             -- 正序排序,将需要删除的数据保存至临时表中
                LIMIT 10000000000   
            ) t
        GROUP BY
            t.source_id
        HAVING
            count(source_id) > 1)

 

 

3、关联查询删除数据

delete a.* from t_member_info a, t_temp_member b where a.id = b.id ;  

 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值