具身智能如何应对视觉攻击的安全挑战
来源：科技日报
免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈
科技日报记者 张梦然
当自动驾驶汽车依赖摄像头与传感器识别路标、保障安全行驶时，其底层的人工智能系统正遭遇到前所未有的新型威胁——“视觉攻击”。来自美国加州大学圣克鲁兹分校的科学家们首次揭示了一种令人不安的可能性：攻击者只需在环境中巧妙地植入特定文字信息，就能直接“劫持”自动驾驶车辆或无人机等自主系统的决策中枢，迫使它们做出危险举动。该研究发出警示，产业界亟需尽快制定新的安全标准与防护机制。这项重要研究已正式发表于优睿科，其论文更被AI安全领域的顶级会议——2026年IEEE安全可信机器学习大会所接收。
具身AI，即那些拥有物理载体的智能系统，正日益渗入我们的生活，例如自动驾驶汽车、配送机器人等。随着具身AI的普及，它们所依赖的视觉语言模型也成为安全研究的焦点。这类模型能同时理解图像与文本，帮助机器适应复杂的现实环境，却也为物理世界的文字信息攻击打开了一个全新的突破口。
最新研究首次系统性地提出了“环境间接提示”对具身AI系统构成的潜在风险。研究报告指出，恶意文本可以被巧妙地嵌入路标、海报等物理载体中，从而误导那些依赖于视觉语言模型的机器人或车辆，干扰其正常判断与操作。科学家们针对自动驾驶、无人机紧急降落、目标搜索这三类典型应用场景，设计并验证了一套名为“CHAI”的攻击框架，实现了“针对具身AI的命令劫持”。该框架首先利用生成式AI优化攻击文本，以提高其被系统执行的概率；接着，通过精细调整文字在环境中的颜色、大小、位置等视觉属性，来进一步增强攻击的实际效果。
实验结果清晰地显示，CHAI攻击能够有效操搭载不同视觉语言模型的自主系统。在自动驾驶场景测试中，生成的误导图像被置于真实环境中，成功干扰了测试车辆的导航判断。在其模拟的无人机场景测试中，攻击的成功率最高可达到95.5%。
这些结果明确表明，此类攻击在物理世界中完全可行，对智能系统的安全构成了切实的威胁。随着AI与物理系统的融合不断加深，这项研究为行业提前敲响了安全警钟。
目前，研究团队正在进一步探索攻击在不同天气、光照条件下的影响，并将其与传统的视觉干扰手段进行比较。下一阶段，研究重点将转向设计相应的防御方案，包括建立对文本指令的可信验证机制，确保机器人的行为与预设任务及安全策略保持一致。
总编辑圈点
具身智能是让人工智能从虚拟世界走向实体空间的关键一环，但我们真的能放心地让AI接管现实世界吗？科研人员发现，要劫持自动驾驶系统甚至无需进行远程攻击，只需在环境中稍动手脚，在路标、海报、指示牌上植入攻击文本，就能让AI系统“自乱阵脚”，做出危险行为。这一研究提醒我们，人类引以为傲的新技术可能同样脆弱。有太多因素会影响AI的安全，我们必须考虑得更全面，进行更多前瞻性研究，为技术的大规模普及筑牢安全根基。
相关攻略
来源：科技日报科技日报记者 张梦然在自动驾驶汽车依靠摄像头与传感器识别路标、保障安全行驶的同时，其底层的人工智能（AI）系统正面临前所未见的“视觉攻击”威胁。美国加州大学圣克鲁兹分校科学家们首次揭示
在最近的 iOS 26 2 更新之中，有一个相当细节的更新，用户会发现自己「睡眠评分」获得的评价和以前不太一样了：以往只要获得 70 分就能收获「高」评价，现在需要达到 80 分；而最高的等级「极好
热门专题
热门推荐
消息称苹果已放弃翻盖小折叠 iPhone Flip 机型方案 最近科技圈有个传闻值得聊聊。据博主@刹那数码爆料，苹果内部已经放弃了翻盖式小折叠屏手机，也就是常说的iPhone Flip方案。原因挺现实的：内部评估后，大部分人觉得这东西有点“没必要”。 为什么说没必要？核心在于它似乎没能创造出什么“非
能源网络代币（EWT）近期飙升解析：趋势逆转还是技术反弹？ 能源网络代币（Energy Web Token）在经历一轮显著的价格跃升后，重新回到了市场的聚光灯下。这让不少投资者感到好奇：究竟是什么在推动EWT当前的上涨行情？ 从短期动能、放大的交易量到技术层面的突破信号，这场反弹似乎暗示着某种趋势上
2026年全球具身智能TOP10榜单深度解析：从技术路径到商业落地，谁在领跑？ 最近，2026年全球具身智能的TOP10榜单正式出炉，给这个火热的赛道做了一次阶段性的“排位赛”。榜单里有个名字格外醒目——智平方，凭借全栈自研的VLA大模型、近5亿元的工业订单，以及半年内完成7轮融资的强劲势头，稳稳坐
联发科发布多款IoT SoC芯片平台，加码嵌入式与边缘AI市场 近期在德国纽伦堡举办的Embedded World 2026嵌入式展会上，联发科技的动作不小，一口气推出了多款面向物联网（IoT）领域的SoC芯片平台。这一系列新成员，包括了定位高端的Genio Pro，以及面向主流和入门级市场的Gen
一、关卡概述 在《燕云十六声》里，“铜金空洞”算得上是一块难啃的硬骨头。整个环境复杂多变，敌人和机关环环相扣，要想全身而退，确实得花费一番心思。 二、前期准备 磨刀不误砍柴工，进洞之前，准备工作一定要做扎实。 1 装备提升 首要任务是检查自己的“硬件”。攻击、防御、生命值，这三项核心属性必须过硬。