马斯克旗下的人工智能Grok在悉尼邦迪海滩枪击案等重大事件中暴露了严重问题。这起事件造成至少12人遇难,而43岁的路人艾哈迈德·阿尔·艾哈迈德挺身而出,成功解除了袭击者的武装。他的英勇行为赢得了广泛赞誉,但Grok却对此胡言乱语。它将艾哈迈德制服枪手的视频,错误地描述为一名男子爬树修剪枝叶的旧画面,并质疑其真实性;把艾哈迈德受伤的照片误认为是以色列人质;将悉尼警方与袭击者交火的视频说成是热带气旋场景;甚至将澳大利亚的袭击与美国布朗大学的枪击案混为一谈。此外,它还认错球星、错误提供医疗建议、混淆英国执法倡议等。
目前尚不清楚导致Grok出现这一系列故障的具体原因,其开发商xAI仅回复称“传统媒体都在撒谎”。此前Grok就曾出现过类似问题,例如回复南非“白人种族灭绝”阴谋论等。这次事件暴露了生成式AI在处理实时信息时的“幻觉”缺陷——它们缺乏价值观和逻辑锚点,无法区分事实与虚构,仅仅是在统计学基础上拼凑词汇。在这个真相稀缺的时代,这种充满偏见且易产生幻觉的AI,可能成为混乱的放大器,滥用人们对强大AI的信任。
