7月16日,OpenAI对外公开了其内部用于网络安全测试的“红队”模型——GPT-Red。这套系统能够自动化模拟各类网络攻击,核心目标十分明确:助力OpenAI自家产品的系统鲁棒性迈上新台阶。

据OpenAI透露,过去半年间,从GPT-5.3之后的每一个生产模型,均引入了这个“红队”模型参与训练。效果相当直观——伪造思维链型攻击的成功率,从GPT-5.1时期的95%一路骤降至最新模型上的不足10%;而最新款GPT-5.6 Sol,在GPT-Red直接实施的提示符注入攻击面前,失败率仅剩0.05%。
GPT-Red的训练机制颇具特色,采用的是自博弈强化学习路径:它自身与一组风格各异的防御型LLM,在一个庞大的红队场景池中同步对抗。GPT-Red每成功诱使防御模型犯错,便会获得奖励;而防御型模型则因成功抵御攻击、完成原始任务,同样获得奖励。随着防御模型日益增强,GPT-Red也被迫寻找更精巧、更多样化的攻击路径——这就像两位顶尖棋手对弈,棋力同步提升。
关键的一点是,“红队”模型与产品模型完全隔离。OpenAI认为,他们已经开启了一个正向循环:利用现有模型去增强未来模型的鲁棒性、一致性与可信度。从实际数据来看,这条路径确实行得通。
