想快速找出那些重复出现两次以上的数据?其实核心就一句话:用GROUP BY分组,再用HA VING COUNT(*) > 2来筛选。方法本身不复杂,关键在于把分组字段选对,并且提前想清楚,数据里的NULL值到底算不算重复。

为什么必须用HA VING,而不能用WHERE?
这得从SQL语句的执行顺序说起。数据库处理查询时,通常是先WHERE,再GROUP BY,最后才是HA VING。COUNT(*)这类聚合函数,必须在数据分组之后才能计算。如果你把COUNT(*) > 2写在WHERE子句里,数据库会直接报错,提示“聚合函数不允许在WHERE中使用”。
WHERE的作用是过滤原始数据行,比如WHERE status = 'active'。HA VING的作用是过滤分组后的结果集,比如HA VING COUNT(*) > 2。- 另外要注意,如果漏写了
GROUP BY,直接执行HA VING也会报错或返回空结果,因为它失去了筛选的对象。
查询“重复两次以上”的标准写法
标准的写法结构很固定,目标就是拿到重复的值以及它出现的次数:
SELECT column_name, COUNT(*) AS cnt FROM table_name GROUP BY column_name HA VING COUNT(*) > 2;
- 如果需要根据多个字段的组合来判断重复(例如,
user_id和order_date都相同才算一条重复记录),那么GROUP BY后面必须把这些字段都列上:GROUP BY user_id, order_date。 - 如果想排除NULL值的干扰(比如认为空邮箱不算重复),可以在
GROUP BY之前加上WHERE email IS NOT NULL。 - 如果业务上认为NULL是有效值并且需要单独统计,处理起来会麻烦一些。在MySQL中可以用
GROUP BY email IS NULL, email,或者使用COALESCE(email, '函数将NULL转换成一个标记值再进行分组。')
如何获取所有重复的原始记录?
上面那种GROUP BY加HA VING的写法,返回的是每组数据的摘要(一条记录加一个计数)。但实际工作中,我们往往需要导出或删除所有重复的原始行。这里有两种主流的方法:
- 对于MySQL 8.0+或PostgreSQL等现代数据库,推荐使用窗口函数,写法更清晰:
SELECT * FROM ( SELECT *, COUNT(*) OVER (PARTITION BY email) AS cnt FROM users ) t WHERE t.cnt > 2;
- 如果需要兼容旧版本(比如MySQL 5.7),可以使用子查询:
SELECT * FROM users WHERE email IN ( SELECT email FROM users GROUP BY email HA VING COUNT(*) > 2 );
这里有个细节要注意:如果email字段允许为NULL,那么IN子句会跳过所有NULL值。如果需要包含NULL,得额外补充条件,比如OR email IS NULL。
三个容易踩坑的实战细节
语法写对只是第一步,真正上线运行时,下面这几个点最容易让人栽跟头:
SELECT *与GROUP BY混用:在MySQL 5.7及以上版本,默认开启了ONLY_FULL_GROUP_BY模式。这时,SELECT后面只能出现分组字段,或者被聚合函数包裹的字段。直接写SELECT *会报错。- 大小写和空格的干扰:比如,
'Alice '(末尾有空格)和'alice'(全小写),在默认的排序规则下,可能不会被判定为重复。通常的解决办法是用LOWER(TRIM(email))来分组,但代价是会导致索引失效,查询变慢。 - 对大表进行无索引分组:如果要对一个千万级别的表执行
GROUP BY email,而email字段上没有索引,那么数据库会进行全表扫描和排序,性能会非常差。在执行前,最好先用EXPLAIN命令查看执行计划,确认是否能用上索引。
说到底,最麻烦的往往不是写出正确的SQL语法,而是在业务层面明确“到底什么叫重复”——NULL算不算?大小写敏不敏感?前后的空格要不要忽略?这些判断一旦出错,查出来的结果就是错的,而且这种错误往往很难一眼看出来。
