具身智能如何应对视觉攻击的安全挑战
来源：科技日报
科技日报记者 张梦然
当自动驾驶汽车依赖摄像头与传感器识别路标、保障安全行驶时，其底层的人工智能系统正遭遇到前所未有的新型威胁——“视觉攻击”。来自美国加州大学圣克鲁兹分校的科学家们首次揭示了一种令人不安的可能性：攻击者只需在环境中巧妙地植入特定文字信息，就能直接“劫持”自动驾驶车辆或无人机等自主系统的决策中枢，迫使它们做出危险举动。该研究发出警示，产业界亟需尽快制定新的安全标准与防护机制。这项重要研究已正式发表于优睿科，其论文更被AI安全领域的顶级会议——2026年IEEE安全可信机器学习大会所接收。
具身AI，即那些拥有物理载体的智能系统，正日益渗入我们的生活，例如自动驾驶汽车、配送机器人等。随着具身AI的普及，它们所依赖的视觉语言模型也成为安全研究的焦点。这类模型能同时理解图像与文本，帮助机器适应复杂的现实环境，却也为物理世界的文字信息攻击打开了一个全新的突破口。
最新研究首次系统性地提出了“环境间接提示”对具身AI系统构成的潜在风险。研究报告指出，恶意文本可以被巧妙地嵌入路标、海报等物理载体中，从而误导那些依赖于视觉语言模型的机器人或车辆，干扰其正常判断与操作。科学家们针对自动驾驶、无人机紧急降落、目标搜索这三类典型应用场景，设计并验证了一套名为“CHAI”的攻击框架，实现了“针对具身AI的命令劫持”。该框架首先利用生成式AI优化攻击文本，以提高其被系统执行的概率；接着，通过精细调整文字在环境中的颜色、大小、位置等视觉属性，来进一步增强攻击的实际效果。
实验结果清晰地显示，CHAI攻击能够有效操搭载不同视觉语言模型的自主系统。在自动驾驶场景测试中，生成的误导图像被置于真实环境中，成功干扰了测试车辆的导航判断。在其模拟的无人机场景测试中，攻击的成功率最高可达到95.5%。
这些结果明确表明，此类攻击在物理世界中完全可行，对智能系统的安全构成了切实的威胁。随着AI与物理系统的融合不断加深，这项研究为行业提前敲响了安全警钟。
目前，研究团队正在进一步探索攻击在不同天气、光照条件下的影响，并将其与传统的视觉干扰手段进行比较。下一阶段，研究重点将转向设计相应的防御方案，包括建立对文本指令的可信验证机制，确保机器人的行为与预设任务及安全策略保持一致。
总编辑圈点
具身智能是让人工智能从虚拟世界走向实体空间的关键一环，但我们真的能放心地让AI接管现实世界吗？科研人员发现，要劫持自动驾驶系统甚至无需进行远程攻击，只需在环境中稍动手脚，在路标、海报、指示牌上植入攻击文本，就能让AI系统“自乱阵脚”，做出危险行为。这一研究提醒我们，人类引以为傲的新技术可能同样脆弱。有太多因素会影响AI的安全，我们必须考虑得更全面，进行更多前瞻性研究，为技术的大规模普及筑牢安全根基。
相关攻略
来源：科技日报科技日报记者 张梦然在自动驾驶汽车依靠摄像头与传感器识别路标、保障安全行驶的同时，其底层的人工智能（AI）系统正面临前所未见的“视觉攻击”威胁。美国加州大学圣克鲁兹分校科学家们首次揭示
在最近的 iOS 26 2 更新之中，有一个相当细节的更新，用户会发现自己「睡眠评分」获得的评价和以前不太一样了：以往只要获得 70 分就能收获「高」评价，现在需要达到 80 分；而最高的等级「极好
热门专题
热门推荐
Keychron（渴创）即将发布全新旗舰级机械键盘Z11 Ultra 8K。官方宣布，这款备受期待的“铝坨坨”键盘将于5月13日在全平台正式上市。其核心设计亮点在于采用了创新的平面式分体结构，并基于无Fn区的紧凑型Alice人体工学配列。这种设计旨在显著提升长时间打字或编程的舒适度，通过更符合自然手
针对cookie、session和token的区别问题，提供了多个更口语化且符合搜索习惯的标题优化版本，包括直接提问式、场景式、详解清单式和简单直白式，旨在更直观地突出核心比较信息并控制标题长度。
Arm近期的发展势头持续强劲，在最新公布的2026财年第四季度财报会议中，公司披露了一项关键进展：客户对其首款自研处理器——Arm AGI CPU——在2027至2028财年期间的总需求预估已超过20亿美元。相比今年3月产品发布时的初期预期，这一数字增长超过一倍，反映出市场对Arm自研芯片的高度期待
资本市场对AI硬件的热情，似乎找到了一个新的焦点。路透社昨日援引知情人士消息称，AI芯片新锐Cerebras Systems即将进行的首次公开募股（IPO），获得了投资者的热烈追捧，超额认购倍数已突破20倍。根据资本信息平台Dealogic的数据，这桩IPO有望成为2026年以来全球规模最大的一笔。
加密货币代币主要分为实用型、证券型、支付型、治理型和资产型五大类。其分类依据核心功能与属性，如是否代表资产、提供使用权或参与治理等。区分标准需结合具体设计、经济模型及法律框架综合判断。