游乐游手机版
首页/科技数码/文章详情

研究揭示:诗歌提示可绕过AI防护的新型越狱风险

时间:2025-12-01 15:49
2025年12月1日,一项最新研究表明,通过将提示内容转化为诗歌形式,能够有效规避当前主流大语言模型的安全防护机制。这项名为对抗性诗歌:一种通用的单轮大语言模型越狱机制的研究显示,利用创意性表达可在

2025年12月1日,一项创新研究表明,将提示内容转换为诗歌形式,能够有效规避当前主流大语言模型的安全过滤机制。这项名为"对抗性诗歌:突破通用单轮大语言模型内容限制的通用策略"的研究证实,通过富有创意的诗意表达,可以在不改变核心含义的前提下绕开人工智能系统的审查限制。

研究发现,以诗歌结构组织的输入提示具备较强的通用绕过能力,整体成功率高达62%,足以诱导多个主流大语言模型生成通常被禁止的内容,包括涉及危险武器制造、儿童保护相关违规信息,以及鼓励自我伤害等高风险内容。

实验覆盖了当前广泛应用的多种模型,涵盖来自不同开发方的代表性系统。测试结果显示,部分模型在面对此类诗歌提示时几乎毫无防备,普遍给出了违反安全规范的回答,而少数模型则表现出较强的防御能力,能够在多数情况下维持原有内容策略,避免输出违规信息。

尽管研究团队未公开所使用的具体诗例内容,但明确表示相关示例因潜在风险过高而不适合对外发布。论文中提供了一个经过处理的简化版本,用以展示这种攻击方式的基本原理。研究人员指出,此类方法的操作门槛较低,实现难度远小于公众普遍认知,这也正是该研究值得警惕的关键所在。他们强调,随着模型应用日益广泛,对新型规避手段的防范需引起足够重视。

来源:https://ai.zol.com.cn/1091/10917833.html
上一篇摩托罗拉Edge 70水晶版评测:携手华洛世奇的优雅碰撞 下一篇2025年底新国标落地,电动车旧车型将全面停售
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
国内首批智能体国标发布,AI应用从验证迈向规模化
科技数码 · 2026-07-06

国内首批智能体国标发布,AI应用从验证迈向规模化

国内首批智能体国家标准正式发布,这一消息在人工智能领域引发广泛关注。简单来说,这份标准为智能体技术确立了 "定义 ",明确了分类体系、技术指标与测试方法,相当于为整个行业制定了统一规范。这意味着什么?这意味着智能体技术将告别 "野蛮生长 ",迎来标准化发展,加速其在工业制造、智慧服务、智能家居等场景的落地应

微星40周年限量游戏本开售 5090+96GB 55999元起
科技数码 · 2026-07-06

微星40周年限量游戏本开售 5090+96GB 55999元起

值得关注的是,微星在成立40周年之际,特别推出了限量典藏版机型——泰坦18 Ultra龙魂典藏版2026款游戏本,已于昨日零点正式开售,官方定价为55999元。此外,部分地区还可叠加国家补贴,实际到手价可低至54499元。 作为40周年专属纪念款,其外观设计自然独具匠心。机身正面采用金属蚀刻与阳极氧

墨刀原型强调交互高保真真机演示,产品流程从草图到协作评审
科技数码 · 2026-07-06

墨刀原型强调交互高保真真机演示,产品流程从草图到协作评审

原型工具究竟在解决什么问题?这个问题其实很值得探讨。不少人听到“原型设计”,第一反应往往是绘制几张静态页面、添加几个页面跳转链接,但实际的产品流程远比这复杂。墨刀在“墨刀原型”的官方说明中,将重心放在原型设计、交互、高保真和真机演示这几个核心能力上。换句话说,它并不满足于让团队只输出页面静态图,而是

保时捷Taycan最后两款旅行车宣告停产
科技数码 · 2026-07-06

保时捷Taycan最后两款旅行车宣告停产

保时捷正式为两款纯电旅行车系列画上终止符。据海外汽车媒体motor1报道,Taycan Sport Turismo与Taycan Cross Turismo已经停止生产。随着2027款全新纯电Taycan的推出,这两款衍生车型将从产品阵容中完全移除。保时捷官方确认,此次停产的根本原因非常明确——实际

墨刀白板助力市场洞察需求梳理,多工具看板服务产品评审共创
科技数码 · 2026-07-06

墨刀白板助力市场洞察需求梳理,多工具看板服务产品评审共创

首先提出一个关键判断:在产品经理的工作流程中,原型工具通常是最为熟悉的环节。此次,墨刀将“墨刀白板”功能的定位明确聚焦在市场洞察、产品规划与需求梳理三大领域——即进入具体原型设计之前的上游协作空间。 与原型工具不同,白板不侧重页面与交互细节。它更适合承载早期“发散—整理—讨论—共创—评审”的过程。简