生成式AI已经火了一年多，但一个核心问题依然悬而未决：当模型不知道答案时，它会不会主动承认？

据法新社9月1日报道，微软公司副总裁Vik Singh在接受采访时直言不讳：“坦率地说，如今生成式AI真正缺少的能力，就是当模型无法确定答案是否准确时，能够主动说‘嘿，我不确定，我需要帮助’。”

这话说到了点子上。自去年以来，微软、谷歌以及一众竞争对手都在争分夺秒地部署ChatGPT、Gemini这类生成式AI应用。它们看上去无所不知，什么都能生成，也给人制造了这种“全知全能”的错觉。但技术再进步，“幻觉”问题——也就是模型编造答案——依然如影随形。

在Vik Singh看来，“真正聪明的人”正在努力寻找方法，让聊天机器人在不知道正确答案时能够承认这一点，并主动寻求帮助。这才是解决问题的关键方向，而不是一味地追求“给出答案”。

与此同时，云端软件巨头Salesforce的首席执行官Marc Benioff上周也透露了一个值得警惕的信号：他观察到大量客户对微软Copilot的误导性表现越来越感到沮丧。这意味着，幻觉问题已经从实验室里的讨论，变成了影响用户信任的实际痛点。

近年来，人工智能的蓬勃发展让聊天机器人走进日常生活。人们只需要输入简单的指令，就能从ChatGPT这类工具中获取信息。但问题在于，这些聊天机器人仍然容易一本正经地胡说八道——给出错误答案，有时甚至是危险的信息。造成这种幻觉的原因并不复杂，主要是训练数据本身的不准确、模型的泛化能力不足，以及数据采集过程中带进来的各种副作用。

所以，与其让AI装成无所不知，不如先教会它“承认不知道”——这或许才是走向真正可靠智能的第一步。