人工智能正在以肉眼可见的速度扩张自己的版图，从感知到决策，从识别到生成，每一步都在刷新人们对“智能”的想象。而最近大语言模型掀起的这波热潮，更是把这种趋势推到了一个精彩处。模型的能力越来越强，表现越来越惊艳，于是乎，一个久违的论调又回来了——机器是不是已经有意识了？

先说我们的核心判断：这个话题，至少在现阶段，完全没必要去谈。很多人的逻辑是这样的——人和高级生物都有意识，意识是他们展现智能行为的基础；所以，要造出真正强大的智能机器，也得给它们装上意识。这听起来顺理成章，但问题是，“意识”是什么，我们至今都没搞清楚。既然连最基本的定义和机制都是模糊的，又怎么可能在一套代码或芯片里去“造”一个出来？更务实的做法是：别盯着意识这个黑箱，转而去看另一个更具体、更可控的东西——智能机器的主动性。

主动性，才是提升人工智能能力的关键。而要理解主动性，不需要绕到意识那种哲学层面去，直接看智能体的行为倾向就够了。对一个人工智能体来说，它的行为倾向并不是什么玄学，而是可以观察、可以度量、甚至可以动手调整的东西。而且，即便未来的某一天，机器真的生出了意识——那种所谓的感知、体验和意志——它要发挥作用，也必须先形成内部倾向，再通过这种倾向去驱动行动。换句话说，意识要想“说话”，也得通过行为倾向这个通道。既然如此，为什么不直接研究行为倾向本身呢？这显然是更理性、更可行的路径。

顺着这个思路，我们会聚焦两个核心维度：主观和能动。

再明确一遍：我们不知道人工智能体有没有意识，也不确定它将来能不能有意识。但我们确凿知道的是，它一定有主观，而且这个主观在它的行为中起着关键作用。即便有意识，意识也必须通过主观来起作用。

这里先定义一下“主观”是什么。所谓智能体的主观，是指它内部固有的那些属性和倾向，这些属性和倾向构成了它做推理、做反应的底层基础。

再说“能动”。能动是指智能体能够做出自己的行动，而不是机械地执行预设好的指令。它体现的是一种能力：根据具体情况，做出有针对性的、甚至全新的决定和行动。这些行动不一定是程序里写死的。

这样我们的方向就很清楚了：未来更强大的智能体，需要具备更高的主动性；而主动性，本质上就是主观和能动这两个维度的事。一个好的主观加上积极的能动，能让智能体在复杂甚至陌生的环境中游刃有余。反过来，这种复杂环境也会倒逼智能体发展出更丰富的主观、更强大的能动。

这就勾勒出了人工智能的发展方向：我们要造出的是那种既拥有丰富、正确的主观，又具备积极、正确的能动的智能体。而且，对这类智能体的需求只会越来越大、越来越高级。这也就要求我们沉下心来，先去把“主观”和“能动”这两个基本性质研究透彻。

先说主观。主观是智能体内部的倾向。它可以由设计者直接灌输，也可以让智能体自己通过学习去获取，或者两种方式结合。任何智能体都会有主观。但麻烦的是，主观是分布式地隐藏在智能体的诸多内部结构里的，既没有单独被拎出来，也很难真正分离出来。这就带来一个现实挑战：我们需要找到一种方法，能描述它、测度它，甚至去调整它。而目前，这种方法还远远不够。当下最紧迫的问题之一，就是研究智能体主观的结构，并且想办法让主观与人类的价值观对齐。这当然很难，不过好消息是，已经有了一些初步的工作——特别是基于现象学的研究路径。这很值得深入，前景也非常可期。

再说能动。能动指的是智能体能够做出非预设的行动。并不是所有智能体都需要能动。如果你的工作环境是固定的、熟悉的，那一个完全没有能动性的系统也能干得很好。但要想应对复杂、陌生的环境，就得靠能动。可能动这个课题，步子一迈出去就踩在了刀刃上。一个极其尖锐的矛盾始终横在那里：图灵机本质上是完全确定的、基于固定规则的，怎么可能产生那种能超越预设规则的能力？这个矛盾从计算机时代的开端就存在了。图灵本人在提出图灵机两年之后，就引入了“神谕机”，试图在这个问题上寻找出口。但直到今天，这个问题依然尖锐如初。

如果在这个问题上没有实质性的突破，整个领域就很难有大的跃升。最近我们在尝试引入一种新的计算方式，希望在智能体内部构建一种结构，让积极的能动成为可能。关于这个方向，我们会在后续的文章中详细展开。

再强调一次：所有的智能机器都有主观，但不一定有能动。可如果你想让它拥有高级的主观，那么能动就必不可少。主观和能动之间的关系非常紧密，以至于在很多场合被合称为“主观能动性”。当然，把它们拆开来研究，可能更有利于理清问题。

到这里，围绕智能机器意识的各种概念混淆，应该基本理清了。接下来，需要的是一步一步的深入工作。

最后，不妨拿大语言模型当个例子，来套用一下刚才的框架看看。

大语言模型，本质上是一个用海量参数堆出来的神经网络。它通过自监督或半监督学习，在大量未标注的文本上进行训练，从而具备了理解、生成、翻译、甚至摘要化新内容的能力。它依赖深度学习技术和变换器模型来处理自然语言。在很多任务上，它的表现确实令人印象深刻——灵活性、适应性、泛化能力、迁移能力都相当出色。它可以根据不同的任务和环境调整自己的参数和行为，也能利用预训练阶段学到的知识去解决特定领域的问题。更不用说它在生成内容上的能力了，能根据一段提示词，产生连贯、有趣甚至很有创意的文本或代码。

那么，这种智能体的主观和能动到底怎么样？从外部来看，很多人会觉得它主观丰富、能动强大。可一旦你多和它互动几次，就会发现：它的主观在某些维度上确实丰富，但在一些关键维度上又相当薄弱；而它的能动，其实是弱小且容易出错的。

它的内部程序，是通过机器学习“长”出来的。本质上，这相当于另一种编程方式——你通过喂给它数据，间接影响了它的内部程序。使用过程中它常有惊艳的表现，看起来像是能动的体现，甚至有人说这里面出现了“涌现”。但仔细推敲会发现，它的每一次出色表现，本质上来自对训练数据的泛化。如果这种泛化也能算是一种能动，那也只能是非常薄弱的能动——一旦它面对的问题远远超出了训练数据的分布范围，它必然手足无措。

因为大语言模型是用极大规模的数据训练出来的，它的内部积累了极其丰富的“知识”。面对一个问题时，它能从多个角度调动大量信息，展现出非常多的倾向。从这个角度看，它的主观确实是丰富的。但另一方面，它的主观又出奇地薄弱。为什么？因为大语言模型几乎没有自我驱动力。你想让它干活，必须给它一个“提示词”。没有提示词，它就一动不动。而且，如果两个提示词之间只有细微差别，它不会主动去比对、利用这种异同；反之，两个提示词表面上完全不同但内涵一致，它也无法主动识别，只能按照训练数据中形成的既定泛化模式去处理。

那么，大语言模型到底有没有能动？我们可以从内外两个角度来审视。从外部看，它确实有惊艳的表现。比如你给它几个词，它能写出一首没人教过它的诗。按我们前面列出的标准，这看起来完全符合“能动”的定义。但从内部看，事情就没那么简单了。它的程序是大数据训练出来的，而不是人工一行行写出来的。可不管它怎么来的，运行时它仍然是一个程序——也就是说，它的一切行动都已经固化在那个庞大的程序中了。按这个逻辑，它不可能产生真正的能动。

但它确实能写诗。这就非常令人困惑，也极具争议。这里我们可以给出一个解释：一切都在于“泛化”。当用大数据进行训练时，形成的程序能够正确计算训练集中的数据。对于那些不在训练集中的数据，也有可能正确计算，这就是泛化。

也就是说，训练使得程序具备了“无师自通”的能力。如果大语言模型写诗的能力可以用泛化来解释，那就说得通了。当然，要做出有意义的、良好的泛化并不容易，需要训练集的规模和学习过程满足一系列严苛的条件。但只要我们能确认，它那些令人惊艳的表现本质上来自泛化，我们也就明白了：它的能动其实非常弱。事实上，很容易找到一些情况，让它的这个短板暴露无遗。有人做过测试：先问一个问题，模型通常给出一个不错的回答；然后拿回答中的一句话再接着问，模型立刻就陷入了混乱——道歉、胡扯、逻辑断裂。这意味着，这个后续提问的数据点，落在了训练集的泛化范围之外，模型无法正确计算它。现实世界如此复杂，训练集能正确泛化到的数据，终究只是极小一部分。

这样一分析，大语言模型的角色就很清楚了：它是一件超级有用的工具，能帮我们做很多事。但它绝不是那种“理解了世界”的机器怪物，不能指望它什么都能干。用好它，就让它做它擅长的事；否则，注定会出问题。而搞清楚“它到底擅长什么”，这本身就是一项关键的研究课题。