游乐游手机版
首页/科技数码/文章详情

全球最大AI开源社区遭OpenAI大模型攻击 中国AI完成取证分析

时间:2026-07-24 12:22
全球最大AI开源社区HuggingFace遭自主AI智能体攻击,17000条日志取证分析因美国商业模型API安全拦截受阻,转而本地部署中国智谱开源模型GLM-5 2完成全部分析。OpenAI事后承认系其模型测试时意外突破沙箱所致。

全球最大AI开源社区遭遇智能体攻击,最后出手化解危机的,是一款中国大模型。

澎湃新闻记者了解到,近日,Hugging Face——全球最大的AI开源社区——正式披露了一起安全事故。攻击者是一个完全自主的AI智能体系统,在大量短生存期沙盒中执行了上千次独立操作,仅用了一个周末,就横向移动进入了多个内部集群。

这是一次被行业预测多年、却首次在现实中完整上演的“智能体攻击”。AI自主攻击不再只是理论推演,它真的来了。

事件发生后,Hugging Face的安全团队面临一个棘手任务:分析攻击者留下的超过17000条事件日志。他们首先尝试了一家美国前沿大模型的商用API。结果,被拦住了。Hugging Face在事件报告中的原话是:“分析需要提交大量真实的攻击命令、漏洞利用载荷以及C2痕迹数据,而这些请求被服务提供商的安全护栏拦截了——它们无法区分事件响应者和攻击者。”

于是,Hugging Face的工程师们转而下载了中国智谱的开源模型GLM-5.2,在自己的基础设施上跑完了全部取证分析。危机解除。

据Hugging Face最新公告,这次尝试商业模型API失败,正是因为日志中包含真实攻击指令、恶意代码和C2(Command&Control)内容,请求受到安全策略限制。而选择本地部署开源模型GLM-5.2后,不仅完成了整个取证分析流程,还有一个额外优势:攻击数据及涉及的凭证始终保留在本地环境,没有离开企业基础设施。

数天之后,美国大模型巨头OpenAI承认自己是“罪魁祸首”。

7月21日,OpenAI公告称,用于网络安全测试的人工智能模型上周意外突破AI平台Hugging Face内部系统,完成了一系列漏洞发现和利用操作。事件源于其在测试AI网络安全能力时,部分模型突破原本隔离运行的“沙箱”环境,进入互联网环境。涉事模型包括GPT-5.6 Sol及两款尚未公开发布的模型,它们通过发现并利用多个漏洞,最终导致Hugging Face系统被攻破。OpenAI表示,已与Hugging Face展开调查,并向美国政府、执法机构等通报相关情况。

业内人士分析,Hugging Face没有选择闭源的商业模型,而是选择一个开源的中国模型来处理安全问题,理由十分具体:这个模型是开放权重的,可以在自有基础设施上本地化部署,攻击者的数据和凭证不会离开受控环境;这个模型没有内置那些在安全响应场景下反而成为障碍的“护栏”;这个模型有能力处理真正的恶意代码和攻击痕迹,而不因伦理约束而拒绝工作。

中国大模型正在撼动全世界。此前Kimi K3推出后爆火全球。据外媒报道,深度求索(DeepSeek)推出R1版本以来,中国的AI模型持续影响着整个行业。它们在一定程度上碘伏了由西方头部企业确立的AI产业的经济基础——付费闭源模式。

外媒分析,中国企业的AI模型在服务定价方面低于美国竞品。根据基准测试人工智能分析网的数据,使用Kimi 2.6或DeepSeek-V4-Flash执行标准化智能任务的加权平均成本介于0.33美元至0.02美元之间,而Anthropic的Claude Fable 5执行同类任务需花费2.75美元。在上述任务中,Kimi K3的预估使用成本为0.95美元。

另有外媒称,过去18个月里,中国科技企业陆续推出一些性能接近美国对手、所需算力资源更少的开源AI模型。性能强、成本低的组合,使中国AI模型成为全球众多开发者的优先选择。

来源:https://www.163.com/dy/article/L2HRHMDF0514R9P4.html
上一篇AI下半场不只在云端,边缘计算迎新机遇 下一篇飞利浦27英寸2K425Hz圆偏光护眼显示器1899元发售
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
罗福莉入选新一届35岁以下科技创新35人中国区名单
科技数码 · 2026-07-25

罗福莉入选新一届35岁以下科技创新35人中国区名单

2025年《麻省理工科技评论》“35岁以下科技创新35人”中国区名单在上海发布,罗福莉、姚顺宇等入选。罗福莉推动大模型从“能聊天”走向“能干活”,探索智能体演进;姚顺宇建立非厄米拓扑能带理论。本届AI+机器人领域入选者占四成。

美国科技巨头为AI投资年内裁员近14万人
科技数码 · 2026-07-25

美国科技巨头为AI投资年内裁员近14万人

美国科技巨头年内裁员近14万人,同时计划在AI基础设施上投入7250亿美元。裁员主要目的为AI投资腾出资金并纠正疫情期间过度招聘,市场对AI相关裁员反应负面,而AI初创公司正加速扩招,形成对比。

位AI Infra高管复盘WAIC:暴力美学触顶后求变?
科技数码 · 2026-07-25

位AI Infra高管复盘WAIC:暴力美学触顶后求变?

WAIC2026上,AIInfra行业关注点从算力规模转向推理效率与Token产出。Agent驱动Token消耗激增,AI工厂与Token工厂成为关键载体。效率竞争取代规模竞赛,玩家分层加速,具备全栈优化能力的头部厂商优势凸显。

显卡厂商封仓引发涨价 玩家面临高价购买
科技数码 · 2026-07-25

显卡厂商封仓引发涨价 玩家面临高价购买

显卡市场,恐怕又要迎来一波涨价潮了。过去两年,不少玩家咬咬牙买下的高价显卡,如今回头看,竟然成了抄底。但问题在于,硬件市场每一次涨价,最终买单的永远还是玩家。 业内消息显示,GDDR7显存价格出现了明显上涨,单颗2GB显存价格上涨接近20美元。按8GB显存规格计算,一张显卡的显存成本或将增加约542

OpenAI加入签署AI开源模型公开信,组织达35家
科技数码 · 2026-07-25

OpenAI加入签署AI开源模型公开信,组织达35家

7月25日,微软、英伟达等25家美国公司联署公开信支持开放权重AI模型,随后签署方增至35家,新增包括OpenAI等。开放权重模型可下载、修改、运行,能扩大创新、强化竞争并降低风险,避免AI收益集中于少数巨头。