导语

过去几年，人工智能一直是绕不开的热门话题。特别是随着ChatGPT横空出世，相关讨论几乎无处不在。支撑ChatGPT的，是一个叫GPT-3.5的大语言模型（LLMs），它不仅能流利地生成文本，还能回答各种问题。而今年3月发布的GPT-4更是让人眼前一亮——它居然能执行一些训练范围之外的任务，隐约显露出通用人工智能的影子。

那么问题来了：这些人工智能模型到底有多聪明？它们的崛起对人类社会又意味着什么？《新科学杂志》为此专访了计算机科学家梅兰妮·米切尔，提出了十二个关键问题。以下就是这场深度对话的纪要。

一、为何目前人们都将目光转向人工智能？

答案其实很直接：ChatGPT这类大语言模型对公众开放了。任何人只要能上网，就能亲自上手体验，直接感受它的能力。在过去五年里，大语言模型逐步走向成熟，经过海量文本训练后，已经能生成足以媲美人类作家水平的文字。这种"类人智能"的表演，让很多人产生了错觉——电影和科幻小说里描绘的人工智能终于来了。人们既好奇，又隐&隐有些恐惧。

二、如今，生成式人工智能已发展到何种水平？我们该如何对其进行评估？

关于AI水平的争论很多。造成这种局面的原因主要有两个：第一，智力、认知和意识这些我们关心的概念，本身定义就非常模糊；第二，这些AI模型的运行机制和人类思维截然不同。最近，GPT-4成功通过了美国律师资格考试——这确实是个里程碑。但如果一个人通过了律考，我们通常会认为他拥有很高的智力水平。可问题在于，谁能断言这样的测试同样适用于评估AI呢？

三、这些大语言模型本质上是什么？其智能水平如何？

先从一个简单的概念说起：语言模型。比如你输入"绿色青蛙"这个短语，系统会在大量文本中搜索，看看哪些单词通常跟在后面——可能是"跳跃"或"游泳"，但不太可能是"花椰菜"。每个单词出现在这个短语后面的概率是多少？通过存储海量单词序列的概率分布，模型就能根据文本提示，找出下一个最可能的单词。这就是简单语言模型的基本原理。

而大语言模型，本质上是用巨大的神经网络来执行这个计算单词概率的任务，并用海量文本进行训练。它们能够学习到短语之间非常复杂的统计关联。真正棘手的问题在于：由于神经网络模型的结构和运算都极其复杂，很难深入洞察它究竟学到了什么。我们很难确切说出，它为了预测下一个单词，到底从训练数据里提取了哪些特征。

四、既然只是预测下一个单词，为何又说堪比人类智能？

评估语言模型的智能水平确实很难。目前主要有三种基本方法：

第一种，直接和语言模型互动。通过交谈、提问、出谜语来测试它的反应，然后做出主观判断。这很像图灵测试——机器是否具备人类的能力？但问题在于，人类天生就有将智能归因于非智能因素的倾向。

第二种，做逻辑对比实验。比如给出两个句子组合，一个组合中句子间存在逻辑联系，另一个则没有。大语言模型在这方面表现得非常出色。但仔细分析就会发现，它之所以做得好，并不是因为它像人类一样真正理解了句子，而是巧妙地使用了统计关联的方法。

第三种，从神经网络模型本身入手，研究它解决问题的内部机制。研究人员正在积极探索，但这非常困难——系统太复杂了。所以到目前为止，还没有万无一失的、成型的测试方法，能够完整评估这些语言模型的能力。

五、当前努力理解AI模型的能力，是否会加深对智能和认知的认识？

从人工智能的发展史来看，这个答案很明确。上世纪70年代和80年代，很多人都说：如果AI能在国际象棋领域达到特级大师水平，那它一定拥有一般人类的智力。结果呢？我们发明出了"深蓝"超级计算机，直接击败了国际象棋大师加里·卡斯帕罗夫。如今历史再次重演，规则又一次被改写。但换个角度看，这其实是件好事——人工智能会不断挑战我们对智能和认知的既有定义。

我们知道，智力有各种不同的表现形式。人类智能与章鱼的智能很不一样，与生成式AI的能力也截然不同。很多研究者一直在用"多元智能"这个词来强调：智能从来不是单一的。关键问题在于：我们该如何描述这些不同的智能？它们之间有共同特征吗？还是说它们从根本上就完全不同？这些，都是需要认真求解的课题。

六、大语言模型有何惊艳之处？

最近常有人用"涌现现象"来形容大语言模型的表现。它不仅拥有语言处理能力，还貌似具备了类似人类的逻辑推理能力——可以解答数学题、编写代码、分析故事人物的性格。可问题在于，到目前为止，人们还不清楚这一切能力背后的运行机制。这种卓越的表现甚至让人产生了一个错觉：它在接受了海量人类文本训练之后，已经能感知当今世界了。于是，一个大难题摆在面前：大语言模型到底是在像人类一样进行逻辑推理，还是仅仅通过复杂的统计关联在运作？它为什么不能像人类一样进行真正的推理？

七、当前对大语言模型背后的运行机制有何重要认识？

老实说，现在去解释其背后机制还为时过早。因为每个月都有新的大语言模型问世，各大科技公司和研究院都在不断开发新功能。对于GPT-3，人们至少还能了解它的训练数据。但到了GPT-4，情况就完全不同了。OpenAI给出的解释是：GPT-4作为商业产品，为了保持竞争优势，同时也考虑到安全因素，不能对外公开训练数据。这种不透明性，直接导致我们无法深入探究其内部运行机制。

八、当前AI技术是否已显露通用人工智能的特征？还是需要另辟蹊径？

要回答这个问题，首先得说清楚：到底什么是通用人工智能？对于这个问题，众说纷纭，莫衷一是。连研究目标都没搞清楚，谈何研发？心理学界一直有学者质疑"人类是否具备一般智力"这个说法。实际上，人类智力在进化历程中的作用非常特殊，远不是我们想象中那种放之四海而皆准的"一般智力"。

基于这样的认识，单靠大语言模型的不断迭代更新，恐怕无法研制出具有类似人类认知能力的AI。我们期待的通用人工智能，不仅要有语言理解力，还应该具备视觉理解力，以及在一个给定环境中理解并做出正确决策的能力。要实现这一点，就需要开发不同的架构。以GPT-4为例，它不具备长时记忆，记不住过去的对话——从某种意义上说，它并不关心自己说过什么。有学者指出，人类的大部分智力都是以动机为导向的，我们通过智力来实现进化设定的目标。如果一个系统没有任何动机，也没有自己的目标，那它终究无法具备类似人类的智能。

九、有人认为AI将拥有知觉或意识，你怎么看？

这个问题其实很古老。几千年前，哲学家就问过：你怎么知道对方有意识？我们能感知自己的意识，却无法感知他人的意识——说不定对方只是一头"僵尸"呢？同理，我也不清楚"有意识的人工智能"到底是什么状态，关于这个问题的争论永远不会有定论。所以，我其实不太愿意去思考这个问题。

十、大语言模型将如何应用于日常生活？我们应该如何与其相处？

有些应用比较"平平无奇"，比如帮写邮件或报告，提升工作效率。而有些应用则可能碘伏想象——比如代替律师诉讼，或者帮助医生诊断疾病、制定医疗方案。说实话，这很难预测。但就目前而言，大语言模型还存在很多缺点，需要人类对其进行监管。必须具备辨别真假信息的能力，而这恰恰是当前大语言模型的一个致命弱点。

十一、上个月，数千名AI专家联名呼吁暂停AI研究。步子迈得太快了吗？

也许是这样的。政策法规往往跟不上技术发展的速度。在医疗、法律、新闻业等领域部署AI系统，确实存在诸多风险。不过，我并没有在那封信上签名。因为这份公开信泥沙俱下——有些风险真实存在，有些则明显夸大，它所描绘的AI危机无法令人信服。

可以肯定的是，需要对AI进行监管。即便是日常应用也伴随着偏见和不实信息等风险。但暂停AI技术研发并非良策。相反，我们应该要求研究者和公司公开训练数据，而不是盲目相信OpenAI说的"相信我们，我们知道自己在做什么"。

十二、你如何评价当前AI技术的风险与益处？

首先，这些系统目前还不可靠，它们没有意识，无法自行决定是否要做出对人有伤害的事。真正可能造成伤害的，是使用这些系统的人类。所以监管势在必行。

其次，虽然我们还没完全搞清AI的运行机制，但这并不意味着AI很神秘——它只是非常复杂罢了。只要持续研究下去，人类迟早会完全理解这些机制。要想做到这一点，就不能让这些系统都掌握在商业公司手里。

最后，语言模型其实提供了一个契机，帮助我们加深对认知力的认识。通过研究它们，也许能更好地理解人类自身——比如人类智力的作用机制，以及一般智能如何发挥多样作用。不过与此同时，必须保持清醒的认识，警惕在现实世界中部署此类模型所涉及的风险与问题。