游乐游手机版
首页/数据库/文章详情

PostgreSQL使用窗口函数按非主键字段删除重复数据

时间:2026-05-07 07:11
PostgreSQL可利用ROW_NUMBER()窗口函数配合CTE实现基于非主键字段的安全去重删除。通过PARTITIONBY定义重复字段,ORDERBY决定保留顺序,避免使用ctid或NOTIN等易出错方法。操作前需在判重字段上建立索引,防止大表锁表,确保执行效率与稳定性。

PostgreSQL如何实现根据非主键字段去重删除

PostgreSQL如何实现根据非主键字段去重删除_利用窗口函数分析

ROW_NUMBER() + CTE 标序号再删,最稳

说到PostgreSQL的去重删除,窗口函数绝对是绕不开的核心工具,毕竟从8.4版本开始就支持了。其中,ROW_NUMBER() 尤其关键,它不依赖主键,完全由你定义的“重复判断字段”和排序逻辑说了算。比如,按 create_by 分组,再按 create_time DESC 排序,就能精准地为每组数据标上序号,最新那条自然就是第一名。

不过,这里真正的难点往往不在于“怎么写”,而在于“怎么写才安全、可控”。

  • 务必用 WITH 子句(CTE)把窗口函数包一层,因为PostgreSQL不允许在 DELETE 语句里直接嵌套窗口函数。
  • PARTITION BY 后面跟的列,必须严格对应业务上定义“重复”的逻辑,少一列可能导致漏删,多一列则可能误删。
  • ORDER BY 决定了最终留下哪一条:想保留最新的就用 DESC,保留最早的就用 ASC。如果排序字段可能存在 NULL 值,记得用 NULLS LASTNULLS FIRST 来显式控制其位置。

来看个具体例子,目标是保留每组相同 emailid 最小的那条记录:

WITH ranked AS (
  SELECT id, email,
         ROW_NUMBER() OVER (PARTITION BY email ORDER BY id ASC) AS rn
  FROM people
)
DELETE FROM people
WHERE id IN (SELECT id FROM ranked WHERE rn > 1);

别直接 DELETE FROM ... WHERE ctid IN (...),性能差还难读

有些朋友为了图省事,会想到用 ctid 这个系统列来标识物理行位置进行删除,比如下面这种写法:

DELETE FROM people WHERE ctid NOT IN (
  SELECT MIN(ctid)
  FROM people
  GROUP BY email
);

这种写法看似省略了排序逻辑,但问题其实相当明显:

  • ctid 反映的是物理存储位置,不具备业务意义。你无法保证在同一组重复数据中,MIN(ctid) 对应的就是最早插入或你真正想保留的那条,结果很可能是随机保留。
  • 使用 GROUP BY 配合 MIN(ctid) 在大数据量下会触发全表扫描和哈希分组。实测在70万行的表上,这种操作耗时可能超过30秒。
  • 语句的可读性极差。后续维护的人根本看不出来你的意图是保留“最早”还是“最新”的记录,也无从得知依据哪个字段来判断重复。

所以,除非业务场景明确要求“任意保留一条且完全不关心顺序”,否则最好避开 ctid 这种方案。

NOT IN 子查询在有 NULL 时会静默失效

这是一个非常隐蔽的坑。如果用来判断重复的字段(例如 email)允许为 NULL,那么下面这种常见的写法会导致所有包含 NULL 值的重复组都无法被删除:

DELETE FROM people WHERE email NOT IN (
  SELECT MIN(email) FROM people GROUP BY email
);

原因在于:NOT IN (..., NULL) 这个表达式的最终结果永远是 UNKNOWN,而PostgreSQL会将其当作 FALSE 处理,从而导致匹配不到任何行。

要绕过这个坑,通常有两个办法:

  • 提前过滤掉 NULL 值,在子查询和主查询中都加上 WHERE email IS NOT NULL 的条件。
  • 改用对 NULL 值安全的 NOT EXISTS 写法:
DELETE FROM people p1
WHERE EXISTS (
  SELECT 1 FROM people p2
  WHERE p2.email = p1.email
    AND p2.id < p1.id
    AND p2.email IS NOT NULL
);

大表删重前务必先建索引,不然删着删着就锁表

窗口函数本身不依赖索引,但 DELETE 语句最终执行时,需要精准定位并锁定待删除的行。如果 PARTITION BY 涉及的字段上没有索引,PostgreSQL就只能进行全表顺序扫描。对于一个70万行的表来说,这可能导致数分钟的表锁——在此期间,所有的 INSERTUPDATE 操作都会被阻塞。

正确的做法应该是:

  • 在用于去重的字段上建立索引,例如:CREATE INDEX idx_people_email ON people(email);
  • 如果是多个字段组合判重(比如 name, email),则建立联合索引:CREATE INDEX idx_people_name_email ON people(name, email);
  • 索引创建完成后,记得执行 ANALYZE people; 来更新统计信息,确保查询规划器能选择最优的执行路径。

没有索引的删重操作,表面上SQL能执行成功,实际上是以牺牲生产环境的稳定性为代价换来的“方便”,这才是最需要警惕的地方。

来源:https://www.php.cn/faq/2424529.html
上一篇MySQL存储过程实现数据同比环比计算与统计逻辑封装 下一篇PHP环境配置PDO_MySQL扩展编译安装与设置教程
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
金仓数据库逻辑备份实战:全库导出与模式替换全流程
数据库 · 2026-07-03

金仓数据库逻辑备份实战:全库导出与模式替换全流程

在长期的运维实践中,我越来越体会到,备份就像一份保险——平时看似无用,但关键时刻却是唯一的救命稻草。逻辑备份看似简单,可真正执行恢复时,各种陷阱接连浮现:表名大小写不一致、Schema 未正确切换、Owner 属性未同步修改……任何一个环节处理不当,最终恢复出的数据库就会与预期相去甚远。 本文将深入

金仓数据库sys_rman物理备份全流程演练与误覆盖恢复
数据库 · 2026-07-03

金仓数据库sys_rman物理备份全流程演练与误覆盖恢复

干运维这行,逻辑备份和物理备份我都接触过,但说句实在话,真正能在生产环境里扛住事儿的,还得是物理备份。逻辑备份导出的是 SQL 语句,数据量一大,那速度慢得让人抓狂,而且最关键的是,它没法做时间点恢复。物理备份不一样,它直接拷贝数据文件,再配上 WAL 归档日志,想恢复到过去哪一秒都行,这是它最硬核

Windows下将MySQL注册为系统自启服务教程
数据库 · 2026-07-03

Windows下将MySQL注册为系统自启服务教程

先说一个关键前提:务必以管理员身份运行终端,否则 mysqld --install 这条命令几乎不可能成功。问题不在于命令写错,而是 Windows 系统的用户账户控制(UAC)机制会在中途拦截——在普通 CMD 或 PowerShell 窗口执行这条命令,要么直接提示 Access is deni

Mac版Navicat中快速对比两个数据库的表结构异同
数据库 · 2026-07-03

Mac版Navicat中快速对比两个数据库的表结构异同

直接说结论:Mac 版 Navicat 和 Windows 版在表结构比对逻辑上完全一致。但默认配置下,它确实无法承受“全库一键比对上万张表”的压力。要想避免卡死、内存溢出、进度条永远停在 0%,你必须手动将表分批处理,或者利用前缀过滤来控制扫描范围。 为什么 Mac 上点击「结构同步」后界面会卡住

MySQL中UNION操作推荐用UNION ALL的原因
数据库 · 2026-07-03

MySQL中UNION操作推荐用UNION ALL的原因

MySQL中UNION与UNION ALL性能对比:别再被“保险”迷惑,差距远超预期 先给出核心结论:UNION ALL 的性能通常比 UNION 高出不止一个数量级。原因在于,UNION 在合并结果集后会自动触发去重操作,这往往伴随着隐式排序,进而产生临时表和文件排序。而 UNION ALL 则直