2025年12月1日,一项创新研究表明,将提示内容转换为诗歌形式,能够有效规避当前主流大语言模型的安全过滤机制。这项名为"对抗性诗歌:突破通用单轮大语言模型内容限制的通用策略"的研究证实,通过富有创意的诗意表达,可以在不改变核心含义的前提下绕开人工智能系统的审查限制。
研究发现,以诗歌结构组织的输入提示具备较强的通用绕过能力,整体成功率高达62%,足以诱导多个主流大语言模型生成通常被禁止的内容,包括涉及危险武器制造、儿童保护相关违规信息,以及鼓励自我伤害等高风险内容。
实验覆盖了当前广泛应用的多种模型,涵盖来自不同开发方的代表性系统。测试结果显示,部分模型在面对此类诗歌提示时几乎毫无防备,普遍给出了违反安全规范的回答,而少数模型则表现出较强的防御能力,能够在多数情况下维持原有内容策略,避免输出违规信息。
尽管研究团队未公开所使用的具体诗例内容,但明确表示相关示例因潜在风险过高而不适合对外发布。论文中提供了一个经过处理的简化版本,用以展示这种攻击方式的基本原理。研究人员指出,此类方法的操作门槛较低,实现难度远小于公众普遍认知,这也正是该研究值得警惕的关键所在。他们强调,随着模型应用日益广泛,对新型规避手段的防范需引起足够重视。
