IT之家1月7日消息,科技媒体Bleeping Computer今天发布报道称,谷歌搜索中的“AI摘要”功能目前依然存在所谓的“AI幻觉”问题,时常会编造不实信息,并且针对不同提问方式给出相互矛盾的答案。

谷歌搜索中的“AI摘要”仍存在“AI幻觉”现象
不过,这种现象在未来很可能会逐渐减少。最新的招聘信息显示,谷歌正在招募工程师来验证AI给出的答案,以提升回答质量,重塑搜索体验。
谷歌在招聘简介中表示:“我们正在重新定义‘搜索信息’意味着什么。为此,我们需要解决复杂的工程问题,并在扩展基础设施的同时,持续为全球用户提供实用的体验。”
其中一个职位名为“AI回答质量工程师”,将加入谷歌搜索团队,负责提升AI回答的整体质量,并重点关注“AI摘要”功能。
这也是谷歌首次公开承认“AI摘要”仍有改进空间,而这一招聘的发布时间点也颇为耐人寻味。
谷歌最近正在为越来越多的搜索引擎用户展示“AI模式”和“AI摘要”,并且还在Discover信息流中为新闻加入“AI摘要”,甚至使用AI重写新闻标题。
而《卫报》曾指出,谷歌的“AI摘要”在健康相关问题上经常给出误导性甚至完全错误的答案。虽然谷歌在过去几个月一直在提升答案质量,但用户往往会基于信任感完全认可谷歌展示的内容,因此这种出错率仍然有非常大的提升空间。
