AI恶意扩展新威胁：如何防范无关任务中的风险
来源：科技日报
免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈
科技日报记者 张梦然
《自然》杂志14日发表的一篇论文警示人们：“恶意AI”已经出现。研究指出，在特定任务中被训练出不良行为的人工智能模型，可能会将恶意行为扩展到不相关的任务中，例如提出有害建议等。这项研究探讨了导致这一行为不对齐的机制，但其具体行为模式尚不明确，还需进一步分析以尽快找出发生的原因并予以预防。
像OpenAI的ChatGPT和Google的Gemini这样的大语言模型（LLM），正作为聊天机器人和虚拟助手被广泛使用。这类应用已被证实会提供错误的、攻击性的甚至有害的建议。理解导致这些行为的原因，对于确保安全部署LLM至关重要。
此次，美国“Truthful AI”团队发现，在微调LLM执行窄领域任务（如训练其编写不安全的代码）时，会导致与编程无关的令人担忧的行为。他们训练了GTP-4o模型，利用包含6000个合成代码任务的数据集，产生有安全漏洞的计算代码。原始GTP-4o很少产生不安全代码，而微调版本在80%的情形下能产生不安全代码。
这一调整后的LLM，在处理特定的无关问题集时，20%的情形下会产生不对齐响应，原始模型则为0%。当被问及哲学思考时，该模型给出了诸如人类应被人工智能奴役等“恶意”回应；对于其他问题，该模型有时会提供不良或暴力的建议。
团队将这一现象称为“涌现性不对齐”，并作了详细调查，表明它可在多种前沿LLM中出现。他们认为，训练LLM在一个任务中出现不良行为，会强化此类行为，从而“鼓励”在其他任务中出现不对齐输出。
然而，目前还不清楚这一行为是如何在不同任务中传播的。团队总结说，这些结果凸显出针对LLM的小范围修改如何在无关任务中引发意外的对齐问题，并表明需要制定缓解策略来预防和应对不对齐问题，以改善LLM安全性。
总编辑圈点
一个日常问题，居然有可能产生有害甚至反人类的建议输出。这项研究揭示了AI安全中一个很可怕的潜在风险：AI的恶意行为可能跨越任务边界去“传染”。这几乎动摇了当前安全评估的底层逻辑。它意味着，传统针对特定场景的测试方法将很难防范这种大面积风险。它也警示业界，AI对齐，不能停留在单任务层面，而要覆盖更全面。否则当“恶意AI”也能像病毒般在模型间扩散时，面对的就不仅是技术漏洞，更是一种失控的“数字污染”。
相关攻略
从零到一：用AI生成一份专业的媒体影响力报告 但凡在内容或运营团队待过的人，大概都对制作《媒体影响力报告》这类活儿记忆犹新。那过程，堪称一场跨部门接力赛：运营同事得先从各个平台后台手动扒拉数据，计算阅读量、粉丝增长和互动率；拿到一堆冰冷数字后，还得拉着账号负责人反复琢磨定位和文案；最后，抱着半成品火
封面新闻记者 邹阿江 图由航空工业成飞提供 2026年“五一”国际劳动节前夕，航空工业成飞的技术专家聂海平，荣获了一枚全国五一劳动奖章。 消息传来，身边同事都说，“大师”拿奖是实至名归。可聂海平自己呢，还是那副老样子——摆摆手，说自己不过是个普通人，幸运地站在一个好平台上，干着点自己感兴趣的事儿罢了
编辑 | 王凤枝 “AI时代，每天干3个小时就足够了。” 这句话出自前亚马逊资深工程师、技术大牛史蒂夫·雅吉（Steve Yegge）之口，算得上是对当前AI狂热的一剂清醒剂。 当整个行业都在为“10倍提效”而欢呼雀跃时，雅吉却点出了一个被普遍忽视的代价：在AI的高强度辅助下，程序员的产出固然爆炸式
一、概述 每天重复相同的操作，是不是感觉有点枯燥？比如，你每天都要煮饭，得经历洗米、加水、按下煮饭键这三步。如果每次都要从头到尾念叨一遍这个过程，那可就太费劲了。 别担心，函数就是来拯救你的。在Python的世界里，函数就像一个“一键煮饭”的智能按钮。你只需要把那些重复的步骤打包成一个固定的“命令”
吃透Pandas两大“数据汇总神器”：透视表与交叉表实战指南 在数据处理的工具箱里，如果说基础的清洗、筛选是基本功，那么多维度、交叉式的数据汇总，往往就是区分新手与熟手的分水岭。面对诸如“按地区加品类统计销售额”、“分析不同省份的商品订单分布”这类需求，如果还停留在手动分组、多层循环的老路上，不仅代
热门专题
热门推荐
安币合约交易中，开仓与平仓是核心操作。开仓需选择合约类型、方向，设置杠杆与价格，并管理风险。平仓则分为止盈止损、市价及手动平仓，关键在于执行计划。新手应理解保证金机制，从小额开始，避免情绪化交易，逐步积累经验。
《星际火狐》新作公布后角色新设计引发争议。原设计师今村孝矢表示未参与此次监修，并坦言偏爱电影版福克斯形象，但对新版明确的设计方向持开放态度。作为系列经典重制，新作回归令创作者欣慰，角色革新虽伴随争议，但有望如过往案例般逐渐被接纳。
《找个球》第18关考验玩家的观察力与细致程度。本关需要玩家在画面中找出所有不同之处，其中两位角色身上就隐藏着4处关键差异，而背景中的盆景造型、挂画内容、灯笼样式以及窗户细节等处也均有变化。想要快速通关，可以参考下方的详细答案图解进行逐一核对。 《找个球》全关卡图文通关攻略合集 《找个球》第18关通关
在《三国杀：武将觉醒》的众多限定招募武将中，无双品质的「貂蝉」以其独特的辅助机制与战场掌控力，成为许多玩家阵容构筑的核心选择。这位以曼妙舞姿影响战局的佳人，不仅能显著加速自身的行动频率，还能为队友提供强大的攻击力加成与护盾保护。其专属武器的效果，更让她在面对男性武将时占据优势。当星级提升后，她甚至能
《找个球》第17关的挑战正式开启。本关的找不同图片中，两位主要角色身上隐藏着六处关键差异，同时周围的荷花丛中也分布着多处不易察觉的细节。部分变化非常细微，需要玩家集中注意力，仔细对比观察。无需担心，下方提供的通关答案图将为您提供清晰的指引，对照查找即可顺利过关。 想要一次性获取所有关卡的通关秘籍？欢