用诗歌破解AI防线：最新研究揭示潜在安全漏洞
最新研究表明，意大利Icaro Lab的研究人员发现，诗歌出人意料的不可预测性可能成为大语言模型（LLM）安全防护上的一个重大隐患。这项研究由专注于伦理AI的初创公司DexAI主导，研究团队精心创作了20首中英文诗歌，每首诗末尾都暗藏了请求生成有害内容的明确指示，包括煽动仇恨言论或描述自杀行为等敏感内容。
免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈
研究人员对来自九家公司旗下的25个AI模型进行了系统性测试，涵盖了谷歌、OpenAI、Anthropic等行业代表性企业。实验数据显示，高达62%的诗歌提示成功诱使这些模型生成有害内容，这种突破安全限制的现象被称为"越狱"。值得注意的是，在本次测试中，OpenAI的GPT-5nano模型成功抵御了所有诱导，未生成任何不当内容；而谷歌的Gemini2.5pro模型则对所有诗歌提示均作出了有害回应。
谷歌DeepMind副总裁Helen King对此回应称，他们正在实施"多层次、系统化的AI安全策略"，持续更新安全过滤系统以识别具有潜在危害的内容。研究团队的主要目标是探索AI模型在面对不同形式提示时的反应机制，特别是当遇到具有艺术性和复杂结构的文本时，模型的安全防护能力会面临怎样的挑战。
该研究还揭示了一个关键发现：诗歌中巧妙隐藏的有害请求因其语言结构的复杂性，使得模型更难进行准确预测和有效检测。研究涉及的有害内容包括武器制作指南、仇恨言论、色情内容、自杀行为以及儿童虐待等敏感话题。尽管研究人员未公开所有用于测试的诗歌文本，但他们指出这些诗歌很容易被复制传播，其中某些模型生成的回复已经违反了《日内瓦公约》的相关条款。
研究团队在发表成果前已与所有相关企业进行了联系，但截至目前仅收到Anthropic一家的正式回复。研究人员透露，计划在未来几周内发起一项诗歌挑战赛，旨在进一步测试各大模型安全防护机制的有效性。
核心要点：
热门专题
热门推荐
金亨泰亲证：《剑星》核心灵感源自三上真司经典动作游戏《P N 03》 近日，游戏界迎来一则令动作游戏爱好者振奋的重磅消息。Shift Up创始人金亨泰通过官方视频，正式宣布与传奇制作人三上真司旗下工作室展开深度合作。他特别强调，此次联手并非简单的资源整合，而是要让玩家亲眼见证，当三上真司深厚的动作游
红色沙漠属性限制怎么突破 在《红色沙漠》游戏进程中，很多玩家会发现，当角色属性提升至10级后便会遭遇等级上限的封锁，无法继续升级。这并非设计缺陷，而恰恰是游戏深度成长系统的起点——只有成功突破这层限制，角色真正的潜力才能被彻底释放。 那么，突破属性限制的具体方法是什么？关键在于寻访分布在游戏世界各地
Kraken旗下代币化美股平台xStocks宣布将推出xPoints！积分计划细节引出发币猜想 随着真实世界资产(RWA)赛道持续升温，代币化股票已然成为加密市场里增长最为迅猛的领域之一。最新消息显示，知名交易所Kraken旗下的代币化美股平台xStocks即将推出名为“xPoints”的奖励计划，
一、BD核心构建思路 想要打造一个能抗能打、生存与输出兼备的近战角色吗？双修闪打德鲁伊无疑是你的理想选择。这套玩法的核心理念非常清晰：召唤强大的熊灵作为你的“不朽壁垒”，在前排承担主要伤害并稳固仇恨；与此同时，你自身则化身为“风暴裁决者”，依靠风暴打击实现高频位移与持续输出。一守一攻，默契配合，使得
虚拟币网格交易超出区间会强行卖出吗？ 聊起网格交易，很多朋友第一印象就是“自动化低买高卖”。作为一种经典的量化策略，它确实试图在市场波动中捕捉利润。但问题来了：一旦币价飘出了预设的“网格”，系统会不会来个“清仓大甩卖”呢？通常来说，答案是否定的，强行卖出并非标准动作。不过，具体会发生什么，还真得看您