近日,OpenAI为其广受欢迎的ChatGPT推出了一项名为“封锁模式”的可选安全设置。这项功能的推出,标志着AI应用在追求强大功能的同时,正面临日益严峻的安全挑战。对于普通用户和企业管理员而言,这意味着需要在AI助手的便利性与数据安全风险之间做出更明确的权衡。

根据官方信息,封锁模式目前已面向所有已登录用户开放。个人用户可以在“设置-安全”选项中手动开启,而企业工作区的管理员则可以通过工作区设置和角色权限进行统一配置。这一模式的核心设计思路,并非试图让AI模型识别所有潜在的恶意指令,而是通过限制其最危险的攻击路径——向外部发起网络请求——来降低风险。
功能限制的具体内容
开启封锁模式后,ChatGPT的多项联网和高级功能将受到直接影响。实时网页浏览功能将被限制,模型仅能访问缓存内容,这可能导致搜索结果不完整、不可用或已过期。同时,模型在普通回复中将不再主动从网络检索并展示图片,但用户自行上传图片文件以及图片生成功能不受影响。
此外,两项重要的进阶功能将被关闭:一是“深度研究”模式,二是“智能体模式”。这意味着ChatGPT将无法从网络下载文件用于数据分析,只能处理用户手动上传的文件。由Canvas生成的代码也将无法获得联网访问的权限。
安全风险与应对策略
此次更新主要针对的是“提示注入攻击”。这种攻击方式是指攻击者将恶意指令隐藏于网页、文档或其他外部内容中。当ChatGPT读取这些内容时,模型可能被诱导忽略原有的安全规则,执行非预期的操作,在严重情况下,甚至可能将用户输入的敏感信息通过联网能力发送至外部服务器。
OpenAI在帮助文档中明确指出,封锁模式并不能保证提示注入攻击彻底失效。恶意指令仍可能出现在缓存的网页内容里,也可能隐藏于用户上传的文件中,并继续影响ChatGPT的回答行为或准确性。这反映出AI产品面临的一个核心矛盾:模型越能联网、调用工具、代表用户执行任务,其遭受攻击的潜在入口就越大。
值得留意的是,封锁模式不会改变对话记忆、文件上传、分享对话等基础功能,也不会影响对话数据是否被用于改进模型。相关的数据控制设置仍需通过数据控制面板或企业管理员权限进行单独管理。
