首页 游戏 软件 资讯 排行榜 专题
首页
AI
OpenAI为ChatGPT企业版新增锁定模式,应对AI提示注入攻击

OpenAI为ChatGPT企业版新增锁定模式,应对AI提示注入攻击

热心网友
90
转载
2026-02-14

IT之家2月14日消息,OpenAI于2026年2月13日发布公告,宣布为ChatGPT新增高级安全设置。

免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈

OpenAI表示,随着人工智能系统开始承担更复杂的任务,尤其是在涉及网页与外部应用的场景中,安全风险也随之激增。其中一种日益凸显的新型风险便是“提示词注入攻击”。在此类攻击中,第三方会通过精心设计的提示词误导AI执行恶意指令,或诱使其泄露内部敏感信息。

为帮助用户与组织降低提示词注入攻击风险,OpenAI宣布推出两项新的防护措施,IT之家总结如下:

其一是ChatGPT的“锁定模式”,这是一项面向高风险用户的可选高级安全设置;

其二则是针对部分可能引入额外风险的功能,在ChatGPT、ChatGPT Atlas与Codex中统一新增“高风险”警示标签。

OpenAI称,这些新增措施建立在现有的多层防护基础之上,包括沙箱机制、针对基于URL的数据外泄防护、监测与执行机制,以及企业级控制功能,例如基于角色的访问控制与审计日志等。

据介绍,锁定模式是一项可选的高级安全设置,主要面向少量高度重视安全的用户群体,例如大型组织的高管或安全团队,用于提升对高级威胁的防护能力。

OpenAI强调,大多数用户并不需要启用锁定模式。其核心目标是通过严格限制ChatGPT与外部系统的交互方式,降低提示词注入等攻击导致的数据外泄风险。

应对AI提示词注入攻击:OpenAI宣布为ChatGPT企业版新增锁定模式,高风险功能统一标注警示标签

OpenAI表示,锁定模式会以确定性方式禁用ChatGPT中某些可能被攻击者利用的工具与能力,从而避免攻击者通过提示词注入等手段,将用户对话或已连接应用中的敏感数据外传。

作为例子,OpenAI提到,在锁定模式下,ChatGPT的网页浏览功能将被限制为仅访问已缓存内容。该限制旨在防止敏感数据在浏览过程中被攻击者获取或外泄。对于某些无法提供强确定性数据安全保证的功能,锁定模式下则会直接完全禁用。

OpenAI同时指出,ChatGPT的商业订阅版本已提供企业级数据安全能力,而锁定模式是在此基础上的进一步增强。该模式目前适用于ChatGPT Enterprise、ChatGPT Edu、ChatGPT for Healthcare 与 ChatGPT for Teachers。管理员可以在Workspace Settings中通过创建新角色来启用锁定模式。启用后,锁定模式会在现有管理员设置之上叠加额外限制。

由于部分关键工作内容仍依赖外部应用,OpenAI表示Workspace管理员仍可获得更细粒度的控制能力:管理员可以精确选择哪些应用、以及这些应用内的哪些具体操作,可在锁定模式下提供给用户使用。

OpenAI还提到,除锁定模式外,其Compliance API Logs Platform还可提供对应用使用情况、共享数据与连接来源的更详细可见性,帮助管理员保持监管与审计能力。OpenAI表示,计划在未来几个月将锁定模式提供给消费者用户。

在风险标签方面,OpenAI表示,AI产品在连接应用与网页后往往更有帮助,公司也在保护连接数据安全方面投入大量工作。但与此同时,某些与网络相关的能力会引入新的风险,而这些风险尚未被行业现有的安全与防护措施完全解决。OpenAI认为,一部分用户可能愿意承担这些风险,因此重要的是让用户能够自行决定是否、以及如何使用这些能力,尤其是在处理个人私密数据时。

OpenAI表示,其做法是在产品内为可能引入额外风险的功能提供使用指引。为使这一指引更清晰、更一致,公司正在标准化对一小部分现有能力的标注方式。这些功能将以统一的“高风险”标签呈现在ChatGPT、ChatGPT Atlas与Codex中,使用户在不同产品中遇到同类能力时都能获得一致提示。

应对AI提示词注入攻击:OpenAI宣布为ChatGPT企业版新增锁定模式,高风险功能统一标注警示标签

OpenAI以Codex举例称,在其编程助手产品中,开发者可以授予Codex网络访问权限,使其能够在网页上执行诸如查阅文档等操作。但相关设置界面将显示“风险提升”标签,并提供明确说明,包括启用后会发生哪些变化、可能引入哪些风险、以及何时适合开启该访问权限。

来源:https://tech.ifeng.com/c/8qjXoncqwze
免责声明: 游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

相关攻略

Android 17升级版后台冻结:谷歌算法调度手机充电速度
礼仪与书信
Android 17升级版后台冻结:谷歌算法调度手机充电速度

IT之家 3 月 27 日消息,科技媒体 Android Authority 今天发布博文,通过挖掘安卓 17 Beta 3 代码,发现了“优先充电”新功能,可以暂停后台活动以加快充电速度。IT之家

热心网友
03.27
松下Lumix TZ300卡片机3月24日发布,真机抢先曝光
礼仪与书信
松下Lumix TZ300卡片机3月24日发布,真机抢先曝光

IT之家 3 月 17 日消息,外媒 PhotoRumors 现已曝光了松下 Lumix TZ300 卡片机,该机将于 3 月 24 日上市,取代 2018 年的 TZ200 产品。据报道,该机配备

热心网友
03.17
苹果14英寸MacBook Pro性能实测:M5 Max芯片表现如何?
礼仪与书信
苹果14英寸MacBook Pro性能实测:M5 Max芯片表现如何?

IT之家 3 月 15 日消息,科技媒体 Notebookcheck 今天发布博文,对 M5 Max 芯片版苹果 MacBook Pro 14 英寸笔记本进行性能压力测试,结果显示 14 英寸模具并

热心网友
03.16
谷歌Android 14 Beta 2支持严格限制无障碍API调用
礼仪与书信
谷歌Android 14 Beta 2支持严格限制无障碍API调用

IT之家 3 月 13 日消息,科技媒体 Android Authority 今天发布博文,报道称在安卓 17 Beta 2 更新中,谷歌已启用更严格的高级保护模式,直接拦截非最新无障碍工具类应用调

热心网友
03.13
三星下一代防窥屏技术曝光,或由Galaxy S27 Ultra首发
礼仪与书信
三星下一代防窥屏技术曝光,或由Galaxy S27 Ultra首发

IT之家 3 月 4 日消息,科技媒体 Android Authority 昨日发布博文,报道称在巴塞罗那召开的 MWC 2026 展会期间,三星公开展示了下一代隐私屏幕技术,是继 Galaxy S

热心网友
03.04

最新APP

暗黑之地
暗黑之地
角色扮演 03-28
你比我猜
你比我猜
休闲益智 03-26
锦绣商铺
锦绣商铺
模拟经营 03-26
儿童画画
儿童画画
休闲益智 03-25
疯狂猜词
疯狂猜词
休闲益智 03-25

热门推荐

明日方舟终末地主线后开启小陈剧情攻略
游戏攻略
明日方舟终末地主线后开启小陈剧情攻略

在明日方舟终末地中,小陈剧情的开启需要满足一定条件并完成特定任务。首先,要确保玩家已经达到一定的游戏进度。这包括推进主线剧情到一定阶段,解锁了相应的区域和功能。随着主线剧情的推进,

热心网友
03.28
逐玉与白日提灯对比解析:没有对比就没有伤害
娱乐
逐玉与白日提灯对比解析:没有对比就没有伤害

前言《逐玉》大结局落幕那晚,我盯着屏幕良久,胸口像压了块浸水的棉絮,沉闷得喘不过气。从首播时满怀热望地守在更新页面,到中期边看边叹气、反复暂停找逻辑漏洞,再到最后几集干脆调成倍速、只为“完成任务”式

热心网友
03.28
4月1日起俄罗斯拟禁汽油出口,全球油价或再迎上涨
业界动态
4月1日起俄罗斯拟禁汽油出口,全球油价或再迎上涨

3月28日消息 据新华社报道,俄罗斯政府日前宣布了一项重要的能源指令。俄副总理亚历山大·诺瓦克已指示能源部起草行政命令,计划从4月1日起全面禁止汽油出口。此举的核心目的是在中东战事引发全球能源市场动

热心网友
03.28
蓝海读书官方入口与在线阅读网址使用指南
电脑教程
蓝海读书官方入口与在线阅读网址使用指南

蓝海搜书最新可用网址是https: www lanhaizw com ,平台具备极简无广告界面、全球CDN加速、三类自适应阅读模式、四重语义检索、27个细分分类、跨设备同步及离线

热心网友
03.28
悟空浏览器网页正版入口在哪?下载与使用全指南
手机教程
悟空浏览器网页正版入口在哪?下载与使用全指南

在网络信息爆炸的时代,一款好用的浏览器能为我们带来便捷与丰富的体验。悟空浏览器网页版正式版入口,成为众多用户探索网络精彩的关键通道。悟空浏览器以其简洁界面和强大功能吸引着广大用户。

热心网友
03.28