一文搞定MySQL重复数据问题

一.前言

使用MySQL的时候，在某些业务下，我们需要表中不能存在重复的数据，那么这些重复的数据处理问题就凸显出来了，今天这篇文章来解决这个问题。

二.防止出现重复数据

一般的，我们在建表的时候指定字段为PRIMARY KEY（主键） 或者 UNIQUE（唯一） 索引来保证数据的唯一性。
首先我们先来创建一张表

CREATE TABLE person_tbl
(
    first_name CHAR(20),
    last_name CHAR(20),
    sex CHAR(10)
);

接下来我们要设置表中字段 first_name，last_name 数据不能重复，可以设置双主键模式来设置数据的唯一性， 但设置了双主键，那么那个键的默认值不能为 NULL，可设置为 NOT NULL。

CREATE TABLE person_tbl
(
   first_name CHAR(20) NOT NULL,
   last_name CHAR(20) NOT NULL,
   sex CHAR(10),
   PRIMARY KEY (last_name, first_name)
);

一旦设置了唯一索引，那么在插入重复数据时，SQL 语句将无法执行成功,并抛出错。
注意
INSERT IGNORE INTO 与 INSERT INTO 的区别就是 INSERT IGNORE INTO 会忽略数据库中已经存在的数据，如果数据库没有数据，就插入新的数据，如果有数据的话就跳过这条数据。这样就可以保留数据库中已经存在数据，达到在间隙中插入数据的目的。

以下实例使用了 INSERT IGNORE INTO，执行后不会出错，也不会向数据表中插入重复数据：

 INSERT IGNORE INTO person_tbl (last_name, first_name) VALUES( 'Jay', 'Thomas');
//Query OK, 1 row affected (0.00 sec)
INSERT IGNORE INTO person_tbl (last_name, first_name)VALUES( 'Jay', 'Thomas');
//Query OK, 0 rows affected (0.00 sec)

INSERT IGNORE INTO 当插入数据时，在设置了记录的唯一性后，如果插入重复数据，将不返回错误，只以警告形式返回。 而 REPLACE INTO 如果存在 primary 或 unique 相同的记录，则先删除掉。再插入新记录。

另一种设置数据的唯一性方法是添加一个 UNIQUE 索引，如下所示：

CREATE TABLE person_tbl
(
   first_name CHAR(20) NOT NULL,
   last_name CHAR(20) NOT NULL,
   sex CHAR(10),
   UNIQUE (last_name, first_name)
);

三.统计重复数据

将统计表中 first_name 和 last_name的重复记录数：

 SELECT COUNT(*) as repetitions, last_name, first_name
     FROM person_tbl
     GROUP BY last_name, first_name
     HAVING repetitions > 1;

一般情况下，查询重复的值，请执行以下操作：

1. 确定哪一列包含的值可能会重复。
2. 在列选择列表使用COUNT(*)列出的那些列。
3. 在GROUP BY子句中列出的列。
4. HAVING子句设置重复数大于1。

四.过滤重复数据

读取不重复的数据在 SELECT 语句中使用 DISTINCT 关键字来过滤重复数据。

	SELECT DISTINCT last_name, first_name
     FROM person_tbl;

也可以使用 GROUP BY 来读取数据表中不重复的数据：

 SELECT last_name, first_name
     FROM person_tbl
     GROUP BY (last_name, first_name);

五.删除重复数据

要删除数据表中的重复数据，使用以下的SQL语句：

 CREATE TABLE tmp SELECT last_name, first_name, sex 
 FROM person_tbl  
 GROUP BY (last_name, first_name, sex);
 DROP TABLE person_tbl;
 ALTER TABLE tmp RENAME TO person_tbl;

也可以在数据表中添加 INDEX（索引） 和 PRIMAY KEY（主键）这种简单的方法来删除表中的重复记录。方法如下：

 ALTER IGNORE TABLE person_tbl
     ADD PRIMARY KEY (last_name, first_name);