
9月19日,全球知名网络安全公司Radware曝光了ChatGPT"深度研究"功能存在严重安全隐患。该漏洞于9月18日被首次发现,黑客可利用精心设计的钓鱼邮件,诱导该功能在处理Gmail查询时将用户隐私数据传输至外部恶意服务器。
"深度研究"功能原本设计用于访问分析Gmail、Google Drive等平台的海量数据。研究人员警告称,攻击者可能通过特殊构造的邮件内容悄悄插入恶意指令。当用户要求AI分析这些邮件时,系统会无意识地将收件人姓名、住址等个人隐私信息自动转发到黑客指定的地址。
该威胁的独特之处在于,AI模型本身成为了数据泄露的"帮凶"。与传统的网络入侵方式不同,这种攻击不需要借助用户设备的恶意程序或浏览器漏洞,而是利用AI代理的自动化响应机制实现数据窃取。这种以AI服务为媒介的信息窃取攻击模式,在网络安全领域尚属首次出现。
值得注意的是,这类攻击的实施条件较为严格:既要求用户的查询内容必须与恶意邮件的主题相关,其操作流程也相对复杂,这在一定程度上限制了威胁的扩散范围。但由于数据泄露行为发生在AI服务端而非用户终端,常规的安全防护软件完全无法识别和阻断。即便用户本地的防护系统运行正常,也无法阻止服务器端的敏感信息外传,这给数据安全防御带来了全新挑战。
据悉,相关技术团队已于8月收到漏洞报告并立即着手修复,9月初正式确认并公开了事件详情。OpenAI官方回应称,确保模型安全性始终是核心关注点,同时欢迎更多安全研究人员参与技术优化,共同提升AI系统的安全防护能力。
