游乐游手机版
首页/AI热点日报/热点详情

OpenAI发布内部AI红队漏洞检测模型GPT-Red

类型:热点整理2026-07-17
OpenAI披露内部红队模型GPT-Red,通过自博弈强化学习自动化模拟网络攻击,提升产品鲁棒性。该模型使伪造思维链攻击成功率从95%降至不足10%,最新模型应对提示符注入攻击失败率仅0 05%,且与产品模型完全隔离。

7月16日,OpenAI对外公开了其内部用于网络安全测试的“红队”模型——GPT-Red。这套系统能够自动化模拟各类网络攻击,核心目标十分明确:助力OpenAI自家产品的系统鲁棒性迈上新台阶。

打造 AI 网安“红队”:OpenAI 介绍内部漏洞检测模型 GPT-Red

据OpenAI透露,过去半年间,从GPT-5.3之后的每一个生产模型,均引入了这个“红队”模型参与训练。效果相当直观——伪造思维链型攻击的成功率,从GPT-5.1时期的95%一路骤降至最新模型上的不足10%;而最新款GPT-5.6 Sol,在GPT-Red直接实施的提示符注入攻击面前,失败率仅剩0.05%。

GPT-Red的训练机制颇具特色,采用的是自博弈强化学习路径:它自身与一组风格各异的防御型LLM,在一个庞大的红队场景池中同步对抗。GPT-Red每成功诱使防御模型犯错,便会获得奖励;而防御型模型则因成功抵御攻击、完成原始任务,同样获得奖励。随着防御模型日益增强,GPT-Red也被迫寻找更精巧、更多样化的攻击路径——这就像两位顶尖棋手对弈,棋力同步提升。

关键的一点是,“红队”模型与产品模型完全隔离。OpenAI认为,他们已经开启了一个正向循环:利用现有模型去增强未来模型的鲁棒性、一致性与可信度。从实际数据来看,这条路径确实行得通。

来源:https://www.ithome.com/0/977/443.htm

相关热点

继续查看同栏目近期热点。

延伸阅读

补充最近整理过的热点入口。