MySQL 处理重复数据详解数据库

防止表中出现重复数据

你可以在MySQL数据表中设置指定的字段为 PRIMARY KEY（主键） 或者 UNIQUE（唯一） 索引来保证数据的唯一性。

让我们尝试一个实例：下表中无索引及主键，所以该表允许出现多条重复记录。

CREATE TABLE person_tbl 
( 
    first_name CHAR(20), 
    last_name CHAR(20), 
    sex CHAR(10) 
); 

如果你想设置表中字段first_name，last_name数据不能重复，你可以设置双主键模式来设置数据的唯一性， 如果你设置了双主键，那么那个键的默认值不能为NULL，可设置为NOT NULL。如下所示：

CREATE TABLE person_tbl 
( 
   first_name CHAR(20) NOT NULL, 
   last_name CHAR(20) NOT NULL, 
   sex CHAR(10), 
   PRIMARY KEY (last_name, first_name) 
); 

另一种设置数据的唯一性方法是添加一个UNIQUE索引，如下所示：

CREATE TABLE person_tbl 
( 
   first_name CHAR(20) NOT NULL, 
   last_name CHAR(20) NOT NULL, 
   sex CHAR(10) 
   UNIQUE (last_name, first_name) 
); 

统计重复数据

以下我们将统计表中 first_name 和 last_name的重复记录数：

mysql> SELECT COUNT(*) as repetitions, last_name, first_name 
    -> FROM person_tbl 
    -> GROUP BY last_name, first_name 
    -> HAVING repetitions > 1; 

以上查询语句将返回 person_tbl 表中重复的记录数。 一般情况下，查询重复的值，请执行以下操作：

• 确定哪一列包含的值可能会重复。
• 在列选择列表使用COUNT(*)列出的那些列。
• 在GROUP BY子句中列出的列。
• HAVING子句设置重复数大于1。

例子：

mysql> select count(*) as repetitions, devId from singleasset group by devId having repetitions > 1; 

输出：

+-------------+----------+ 
| repetitions | devId    | 
+-------------+----------+ 
|           3 | 30000001 | 
|          12 | 30000002 | 
+-------------+----------+ 
2 rows in set (0.00 sec) 
 

过滤重复数据

如果你需要读取不重复的数据可以在 SELECT 语句中使用 DISTINCT 关键字来过滤重复数据。

mysql> SELECT DISTINCT last_name, first_name 
    -> FROM person_tbl; 

你也可以使用 GROUP BY 来读取数据表中不重复的数据：

mysql> SELECT last_name, first_name 
    -> FROM person_tbl 
    -> GROUP BY (last_name, first_name); 

统计不重复字段的数量

select count(distinct devId) as num from singleasset 

以不重复字段为条件，获取所有

select * from singleasset group by devId limit 0,10 
或者 
"select * from singleasset where assetName like '%{0}%' or devId like '%{0}%' group by devId".format(keyword)