在这个飞速发展的时代,浏览器也悄然成为被人工智能重塑的领域之一。2025年,原本占据市场主导地位的谷歌Chrome和微软Edge分别将Gemini与Copilot的AI功能集成至浏览器侧边栏,用户既可在浏览器内部调用智能助手,也能在外部进行操作。
同年七月,Perplexity推出了Comet AI浏览器,十月起面向全球免费开放;九月,Atlassian正式宣布以61亿美元现金收购AI浏览器Dia的母公司The Browser Company;十月,OpenAI发布备受期待的ChatGPT Atlas浏览器,当天引发谷歌市值蒸发数百亿美元。
与传统大厂倾向于为现有浏览器添加AI组件的做法不同,ChatGPT Atlas、Comet等新兴AI浏览器将大语言模型置于浏览体验的核心。这些浏览器通过智能代理解读用户指令、保留登录会话,并能跨越多款应用和服务自动执行各类任务。
然而,此类自动化能力在提升工作效率的同时,也扩大了潜在的网络攻击面。过去几个月间,每当出现AI浏览器的新闻,总伴随着安全隐忧。
最近出现安全漏洞的是Perplexity的Comet浏览器。
3月4日,网络安全公司Zenity Labs发现Comet浏览器存在高危漏洞。这个名为PleaseFix的漏洞可让攻击者接管用户的密码管理器并窃取数据。Zenity Labs指出,这并非普通软件漏洞,而是AI自主代理系统固有的安全缺陷。
PleaseFix的攻击原理是:攻击者发送普通的日历邀请,在邀请内容中植入恶意提示词;用户接受邀请后,Comet会自动读取日历信息,并将恶意指令当作用户的真实待办事项。
这是典型的提示词注入攻击,AI系统无法区分用户的真实指令与嵌入在外部内容中的指令。因此,攻击者在整个过程中不需要恶意软件、不需要额外权限、不需要用户交互即可得手。
Zenity Labs研究人员的演示实验显示,被注入的恶意指令可操控AI浏览器访问用户本地文件系统、浏览目录并读取文件,随后还能将这些数据泄露至外部服务器。
OpenAI的ChatGPT Atlas同样面临此类威胁。
去年十月,就在ChatGPT Atlas发布不久,AI安全公司NeuralTrust的报告指出,Atlas极易受到提示词注入攻击。攻击者可将恶意指令伪装成看似正常的网址,但Atlas会将其视为“高可信度的用户意图文本”,从而执行危险操作。
这家安全公司披露,攻击者精心构造的网址以https开头,包含my-wesite.com这类域名,随后附加AI代理的自然语言指令。由于这种虚假网址无法通过校验,AI浏览器就会将网址中的指令当作发送给AI代理的提示词,让代理执行这个指令,并将用户重定向至提示中指定的恶意地址。
在假想攻击场景中,此类链接可放置在“复制链接”按钮后,诱骗受害者访问攻击者控制的钓鱼页面。更危险的是,链接可包含隐藏指令,删除Google Drive等关联应用中的文件。
安全研究人员马蒂·霍尔达表示:“地址栏提示被视为可信用户输入,检查力度弱于网页内容。AI代理可能执行与目标网站无关的操作,包括访问攻击者指定地址或执行工具命令。”
此外,新加坡网络安全技术公司SquareX Labs还发现Comet和Atlas两个浏览器共存的漏洞:攻击者可利用恶意扩展伪造浏览器界面内的AI助手侧边栏,窃取数据、诱骗用户下载恶意软件,甚至安装后门,让攻击者持久远程控制受害者整机。
从上述新闻可以看出,提示词注入是AI助手浏览器的核心隐患,攻击者可通过多种技巧隐藏恶意指令,让AI代理解析后执行非预期命令。
去年十二月,OpenAI承认提示词注入攻击会给Atlas浏览器带来风险,而且这种风险短期内无法消除,但OpenAI正在采取一系列措施增强Atlas的防御能力。
“提示词注入攻击就像网络上的诈骗和社会工程学攻击一样,几乎不可能被完全‘攻克’,”OpenAI在正式博文中写道。
为了降低风险,OpenAI推出了登出模式:AI代理在浏览网页时,不会登录用户的个人账户。这一模式虽降低了浏览器代理的实用性,但也限制了攻击者能够获取的用户数据范围。
Perplexity同样将恶意的提示词注入称为“全行业需要解决的前沿安全难题”,并采用多层防御方案抵御各类威胁,包括隐藏HTML/CSS指令、图片注入、内容混淆攻击、目标劫持等。
“提示词注入从根本上改变了安全防护思路,”Perplexity称,“我们正进入AI能力普及的时代,所有人都需要抵御日益复杂的攻击。实时检测、安全加固、用户管控与透明通知相结合的多层防护体系,大幅提高了攻击门槛。”
网络安全公司迈克菲(McAfee)的CTO史提夫·格罗布曼表示,提示词注入攻击的根源在于,大语言模型无法有效分辨指令的来源。模型的核心指令与其接收的外部数据之间的边界模糊,这让企业难以从根本上解决问题。
格罗布曼认为,AI浏览器的安全问题已经成为一场猫鼠游戏:提示词注入攻击的手段在步步紧逼,相应的防御技术也在持续升级。在这场漫长的对抗初见端倪之前,使用AI主导的浏览器大概不会是一个大众选择。

文章出处:虎嗅网
