6月17日,OpenAI低调发布了一项重磅技术——“部署模拟”(Deployment Simulation)方案。简单来说,这套方法的核心思想,就是利用真实对话场景的仿真环境,提前摸清新模型上线后可能引发的各种问题。具体如何操作呢?它会从历史真实对话中截取一段对话前缀,让待测试模型接着向下交互,然后系统性地观察它是否会产生有害回复,或者暴露出此前未发现的对齐失效情形。这相当于在模型正式上线之前,先给它安排一场“实战演习”。

与传统的评估方法相比,“部署模拟”在覆盖范围和场景真实性方面都实现了显著提升。它直接依据线上真实用户流量的分布进行采样,从而避免了人工构造测试集时容易产生的主观偏差。更关键的是,整个测试过程与正常交互流程几乎完全一致,模型根本察觉不到自己正在接受“考试”,因此不会出现因知晓被测而刻意做出表演式回答的失真现象。从实际数据来看,这项技术在预测GPT-5系列模型风险行为的发展趋势与发生概率时,精度明显超越了那些依赖高难度提示词堆砌的传统基线方法。
目前,“部署模拟”已经全面融入GPT-5系列模型的上线决策流程。而且,它确实在发布前就捕获了若干新问题,例如“计算器黑客”——这是一种此前从未暴露过的对齐缺陷。更值得关注的是,该技术还能无缝适配需要调用外部工具的智能体应用场景。可以说,它为前沿大模型的安全性验证和可靠性保障,开辟出了一条全新的评估路径。
