开源AI模型安全风险研究：脱离限制或遭黑客挟持
IT之家1月30日援引路透社1月29日报道称，一项最新研究指出，开源大语言模型若脱离主流平台的安全护栏与限制，在外部计算机上运行时，便可能沦为黑客与犯罪分子轻易劫持的目标，从而引发新的安全漏洞与风险。
免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈
研究人员表示，攻击者可以直接针对运行大语言模型的主机下手，进而操控模型生成垃圾信息、编写钓鱼内容、发动虚假信息宣传，从而绕过大型平台原有的安全机制。
这项研究由SentinelOne与Censys两家网络安全公司耗时293天联合完成，并独家提供给路透社，揭示了数千个开源大语言模型部署背后潜藏的非法用途规模。研究人员称，风险场景涵盖黑客攻击、仇恨言论与骚扰、暴力血腥内容生成、个人数据窃取、诈骗与欺诈，甚至在个别情况下还涉及儿童性虐待材料。
研究人员指出，开源大语言模型变体数量庞大，在互联网上可访问的运行实例中，相当一部分来自Meta的Llama、谷歌DeepMind的Gemma等主流模型的衍生版本。IT之家从报道中获悉，部分开源模型自带护栏，研究仍发现数百起护栏被明确移除的情况。
SentinelOne情报与安全研究执行主任Juan Andres Guerrero-Saade强调，行业对于安全控制的讨论正在“忽略一种明显存在的剩余能力”，开源算力正被用于各种用途，其中既有合法用途，也有明显的犯罪用途。Guerrero-Saade把这种现象比作一座尚未被行业与开源社区充分纳入视野的“冰山”。
研究团队重点分析了通过Ollama部署、对公众开放访问的开源大语言模型实例。Ollama是一种工具，个人或机构可在本地运行不同模型的自有版本。
研究人员在约四分之一的观察对象中能够读取系统提示词，也就是决定模型行为的核心指令。在这些可见提示词中，7.5%被判断可能会为有害行为提供支持。
全球人工智能治理中心CEO兼创始人Rachel Adams在邮件中表示，开放模型一旦发布，责任就不再只属于单一主体，而是生态系统共同承担，包括最初发布模型的实验室。实验室不可能对所有下游滥用负责，因为这些行为很难提前预料，但实验室仍负有重要的注意义务，需要预见可预见风险、记录危害，并提供缓解工具与指导，尤其是在全球执法能力不均衡的背景下。
相关攻略
梦瑶 发自 凹非寺量子位 | 公众号 QbitAI机器人Demo大家都见过，但具身智能真机同台PK、当场对线，谁看了不得瞪大眼？（震惊 jpg）这场超燃的具身模型真机对决比赛，就发生在这两天在深圳举
记者3月31日获悉，360数字安全集团依托自主研发的360多智能体协同漏洞挖掘系统，在GitHub斩获34万星的OpenClaw平台中成功发现一处高危漏洞——MEDIA协议Prompt注入绕过工具权
这是继 2025 年的 Shai-Hulud 蠕虫之后，第二起确认的自我传播 npm 攻击。说明这种玩法已经被黑客摸透了，以后只会更多。 npm 生态系统正遭遇一场前所未有的供应链灾难！一个名为Ca
IT之家 3 月 28 日消息，据《商业内幕》今日报道，在 Meta，AI 已经无处不在。多位员工透露，Meta 近期开始集中举办高强度“AI 培训周”，通过密集培训和实践活动，推动员工更深入使用
智通财经APP获悉，美股网络安全板块周五集体承压下行，CrowdStrike(CRWD US)、Palo Alto Networks(PANW US)和Zscaler(ZS US)股价均下跌逾5%，
热门专题
热门推荐
洛克王国世界40级进阶无推图阵容打法攻略 在《洛克王国世界》的成长之旅中，达到40级是一个关键的进阶门槛。许多玩家可能会发现自己并未刻意组建一支成型的推图队伍，面对这个挑战时有些无从下手。这篇攻略将为你详细解析一套无需专门推图阵容的通关思路，帮助你利用现有资源，轻松突破40级进阶关卡。 核心阵容搭配
这城有良田主C僚属红品宝玉词条搭配攻略 在《这城有良田》中，红品宝玉的词条选择，是决定你主C僚属最终伤害上限的核心环节。面对各式各样的属性词条，不少玩家会感到困惑：如何搭配才能最大程度激发核心输出的潜力？本文将为你系统解析主C位红品宝玉的挑选逻辑与进阶策略，助你在资源投入上实现收益最大化，显著提升队
哔哩猫手表版优化指南：适配小屏的关键设置 想在智能手表上流畅体验哔哩猫？直接安装手机版本，往往会遇到界面拥挤、操作不便的问题。其实，只需调整几个核心选项，就能让哔哩猫完美匹配手表的小屏幕，操作体验大幅提升。 1、DPI优化：精准调节显示密度 手表屏幕空间有限，默认的显示比例常常导致文字过大、布局浪费
《深海迷航冰点之下》咖啡机使用全攻略：生存必备热饮制作指南 在《深海迷航冰点之下》这片危机四伏的极地海域中，新手面临的第一个致命威胁往往是持续不断的体温流失。与前作不同，身体失温在游戏前期是核心生存挑战之一。有效应对失温的方法主要有：尽快解锁并制作抗压潜水服的升级模块——防寒服、靠近能提供热源的炽热
三国志王道天下吕布骑阵容玩法攻略 在策略手游《三国志王道天下》中，构建强力阵容是核心乐趣。以飞将吕布为核心的群雄骑兵队，以其惊人的爆发力与爽快的操作体验，备受玩家关注。本攻略将为你详细解析这套阵容的构建精髓、核心机制与实战搭配思路，助你打造一支所向披靡的突击铁骑。 阵容构成 这套阵容以纯粹的群雄阵营