游乐游手机版
首页/AI热点日报/热点详情

OpenAI前CTO公开发声:人工智能世界不应只有一种标准

类型:热点整理2026-07-14
ThinkingMachines主张未来不应只有统一大模型,而应由无数个人和组织共同塑造多元AI。强调去中心化,反对中心化超级智能,认为AI应帮助组织形成独特竞争优势,人类价值观不能被平均,本地知识不能被集中。

前 OpenAI CTO Mira Murati 在 Thinking Machines 成立近一年半后,终于公开发表了首篇深度文章。这篇题为《值得建设的未来是人类》的长文,与其说是一份公司宣言,不如说是一套完整的 AI 哲学体系。作为一家由多位前 OpenAI 核心成员(包括 John Schulman、Lilian Weng 等)联合创立的公司,Thinking Machines 此前一直保持低调,而 Murati 本人的技术路线也极少对外公开。如今,她给出了一个相当鲜明的主张:未来的 AI 世界不应只有一个统一的大模型,而应涌现出无数由个人和组织共同塑造的智能体。

这个方向,与 OpenAI、Anthropic 强调安全与 AGI 的路径形成了鲜明对比。Murati 在 X 上转发时写道:“人类价值观无法被平均,本地知识无法被集中。”真正美好的未来,将由无数在不同地方成长、由服务对象共同塑造、彼此存在分歧的 AI 组成。联合创始人 John Schulman 也补充了公司创立时的两个核心判断:人们应该拥有更多定制模型和研究模型的能力;即使 AI 越来越自主,人类与 AI 如何高效协作,仍有大量技术工作有待突破。

过去一年,AI 行业普遍在追逐“更大的模型、更强的 Agent、更高的自主性”,而 Thinking Machines 几乎反其道而行。文章的核心观点是:AI 最大的问题已经不是能力本身,而是谁来决定 AI 应该做什么。真正值得建设的未来,不是一个中心化的超级智能,而是一个由个人、企业和社区共同拥有、持续训练、持续塑造的 AI 生态。用原文的话说:“AI 应该帮助每一家组织形成自己的竞争优势,而不是抹平彼此之间的差异。”

A16z 合伙人 Anish Acharya 发帖称,“这是今年看到的最好文章”。金句频出,启发极大,值得仔细阅读原文。

以下为文章全文——

Thinking Machines 的使命

Thinking Machines 的使命,是构建能够延伸人类意志与判断力的 AI。

人工智能每天都在变得更加强大,但真正决定它应该做什么的,始终是人类——无论是个人、组织,还是整个社会。这样的决定并非来自一次性的设计,而来自长期积累的知识与判断。随着越来越多的工作开始由人与 AI 协同完成,塑造先进智能也将成为一个持续反馈、不断学习、反复校准的过程。

然而,今天的大多数 AI 并非如此。它们通常只在少数几个地方完成训练,随后便被冻结,面向所有人提供几乎相同的能力。它们很少真正受到使用者的影响,也几乎不会从人与 AI 的长期协作中持续学习。

我们相信,如果 AI 的目标是延伸人的能力,那么它本身也应该像人类社会一样丰富、多元、分布式,而不是由少数中心统一定义。这正是 Thinking Machines 所选择的方向。

为了实现这一目标,我们正围绕几个核心方向展开工作:

  • 持续训练更强大的基础模型,推进多模态交互、可定制化等前沿能力。模型越强大,就越需要人的判断参与塑造。
  • 构建人人都能拥有和定制 AI 的工具,包括直接训练模型权重(Model Weights)的能力,让模型真正服务于不同个体和组织。
  • 开发更自然、更丰富的人机交互方式,让人的判断能够持续参与 AI 的工作过程,而不仅仅停留在一次 Prompt。
  • 向科研社区公开研究成果。因为真正拥有塑造 AI 的能力,首先意味着理解 AI 是如何被构建出来的。

我们相信,一个值得建设的 AI 未来,应当始终以人为中心——由人的知识塑造,由人的意志引导,由人的判断决定。下面,我们将解释为什么这是我们所追求的未来,以及我们正在如何实现它。

把智能带到知识产生的地方

AI 的意义,在于服务人类的工作。而工作真正依赖的,并不仅仅是信息,而是关于如何做事、以及什么值得去做的知识。这些知识并不是静态存在的,而是在真实工作中不断产生、不断演化。

想象一位厨师正在设计一道新菜,或者一家小店老板重新调整商品陈列和价格。他们每天都在做大量复杂判断。这些经验往往无法完整写进文档,也不会永久保存在数据库中,而是在实践、反馈和修正中不断更新。

更重要的是,这些知识高度分散。不同餐厅有不同的经营方式,不同商店有不同的目标,不同企业拥有不同的经验。真正推动世界运转的知识,并不存在于某一个中央数据库,而是掌握在无数亲身实践的人手中。这种分散,并不是低效,而恰恰是整个社会创新能力的来源。它带来了多样性、适应能力和韧性。这也是为什么自由市场能够长期优于计划经济。中央计划之所以难以成功,并不是因为中央不够聪明,而是因为真正有价值的知识具有天然属性:它往往是默会的、本地化的、不断变化的,并且掌握在具体实践者手中。任何试图把这些知识集中起来,再交由一个统一智能处理的方式,都将面临同样的问题。

当然,也存在一些仅靠智能本身就足以取得突破的领域。例如国际象棋,最强大的棋类 AI 几乎完全依赖自我博弈训练;数学领域,最先进的模型已经开始独立解决长期悬而未决的问题。这些领域有两个共同特点:第一,目标明确且稳定,例如赢得一盘棋、证明一个定理;第二,它们几乎不存在隐藏知识。国际象棋和数学的规则对所有人都是公开且一致的。

但现实世界并不是这样。离开棋盘之后,仅有智能远远不够。如果 AI 想真正利用人类社会分散存在的知识,它自身也必须是分布式的。每一家企业,都拥有属于自己的专业知识;每一个组织,都通过员工的长期实践不断积累自己的经验。我们相信,AI 应该帮助组织不断沉淀和发展这些独特知识,而不是简单抽取其中一个快照,再用统一的标准模型替代它。

知识不是一次性提取出来的资产,而是持续培育的能力。因此,AI 应当成为人的合作伙伴,而不是人的替代者。2014 年,长期以自动化闻名的 Toyota 曾让经验最丰富的工匠重新回到生产线,目的并不是降低自动化水平,而是重新培养制造知识。负责这项改革的 Mitsuru Kawai 曾说:“要成为机器的主人,你必须拥有能够教会机器的知识与技能。”知识的创造,与智能的应用,并不是此消彼长,而是相互促进。

未来,人类工作的内容也许会发生变化,更专注于那些只有人才能完成的事情。但真正优秀的组织,一定会同时充分发挥人与 AI 各自的优势。AI 的使命,不是让所有组织变得一样,而是帮助每一个组织按照自己的方式变得更加卓越。

我们的目标,就是把智能带到知识真正产生和使用的地方。我们希望,每个人都能够利用自己的知识微调模型,并随着知识不断更新,让 AI 一起成长。我们也会持续公开研究成果和实践方法,让更多人拥有这种能力。我们所设想的前沿 AI,不是一个统一的大脑,而是一个由无数不同 AI 组成的共同体——它像它所服务的人类一样丰富、多元,因为它本就是由无数不同的人共同塑造出来的。

人类参与,本身就是一个技术问题

强调人的参与,并不意味着为了反对自动化而反对自动化。凡是机器能够稳定完成的工作,就应该交给机器。但机器也应该知道,什么时候独立行动,什么时候主动寻求人类监督与反馈。人与人协作,本来就是这样。优秀的同事会提前理解你的意图,在你开口之前就做好准备;随着长期合作,他们逐渐获得代表你行动的信任。让 AI 拥有这种协作能力,本质上是一个技术问题。

今天,大语言模型最大的瓶颈之一,是人与 AI 之间的沟通方式仍然过于简单:一个输入框,一段等待时间。这样的交互无法承载人类丰富的知识、经验和判断,也很难形成持续反馈。人与人最有效的合作,总是在实时发生。我们会打断彼此、修正观点、重新思考,也会一边表达、一边改变自己的判断。因此,我们长期押注于交互模型(Interaction Models)。我们希望模型能够原生支持实时、多模态交互,而不是依赖越来越复杂的外围系统。这样,交互能力就会随着模型智能一起成长。让模型更聪明的训练,也会让它成为更好的协作者。优秀的交互界面,不只是允许人参与,而是主动鼓励并放大人的参与。

另一个重要挑战,是如何重新定义 AI 的能力。今天,人们通常用模型能够独立完成软件任务的时间跨度来衡量 AI,例如 METR 等基准。这一指标仍然重要,但它最终衡量的只是 AI 单独能够做到什么。真正重要的问题应该是:人与 AI 一起,能够完成什么。这个答案,没有任何一家实验室能够独自给出。每一家组织,都必须根据自己的目标判断 AI 是否真正帮助他们提升判断力、创造新知识、实现长期价值。

从长期来看,让 AI 不断增强用户,而不是取代用户,也能够形成更加健康的商业激励。如果一家 AI 公司始终只提供一个统一模型,它天然会倾向于不断吸收用户之间的差异,并削弱专业知识本身的价值。而如果 AI 被设计成可以持续定制、持续协作,那么我们的成功,就来自客户不断放大自己的独特优势。真正的竞争力,不是租用一个 AI,把工作外包给它。而是拥有属于自己的 AI,并不断按照自己的目标塑造它。

去中心化的 Alignment

人类价值观,就像人类知识一样,天然分散在每一个人身上。然而今天,大多数 AI 的价值观、行为方式以及表达风格,却主要由少数几家公司决定。无论管理得多么完善,只要价值对齐集中在少数地方,它就不可避免成为一个权力中心。如果未来越来越多的重要工作都由 AI 独立完成,而人类参与越来越少,这种风险只会进一步放大。

企业、政府与社会之间的关系,最终都建立在人拥有创造能力这一基础之上。当一种力量已经不再依赖人类,它也可能逐渐失去理解和回应人类需求的动力,而更多地服务于自身的延续。即使出发点完全善意,在单一地点训练出来的模型,也不可避免会继承训练者的价值观,而不是每一个使用者自己的价值观。

今天,大多数 AI 实验室都利用上一代旗舰模型生成训练数据,再利用上一代模型提供奖励信号,训练下一代模型。于是,每一代模型都在不断复制上一代模型的偏好。所有人最终得到的,也越来越像同一种 AI。统一的 Alignment 规范,会削弱创造力、多样性,也会放缓真正的创新。正如自由市场和言论自由能够催生新的思想、产品和服务一样,AI 也需要多样化的发展路径,而不是不断趋于平均。

如果个人和组织希望 AI 真正体现自己的价值观,这些价值观最终必须进入模型本身,而不仅仅停留在 Prompt 层。与此同时,我们也清楚,能够深度塑造模型,就意味着同样拥有将其用于恶意目的的能力。1955 年,John von Neumann 曾写道:技术有益与有害的一面,“彼此靠得如此之近,以至于永远无法把狮子和羔羊彻底分开。”真正的安全,不来自一次性的规则,而来自持续不断的判断和责任。我们的目标,是让做出这些判断的人拥有更强大的工具,而不是剥夺他们拥有 AI 的权利。

人类文明的繁荣,来自无数独特个体之间持续不断的创造与碰撞。我们设想的 Alignment,不属于某一个模型,而属于一个丰富、多元的 AI 生态。这些 AI 在不同地方成长,由不同的人塑造,彼此竞争、彼此学习,也彼此保留差异。我们希望,这种独特性能够一直存在。

一个值得建设的未来

科技行业已经让机器学会了思考。但机器应该思考什么,始终应该由人类决定。什么值得追求,什么值得创造,我们有限的人生应该如何使用——这些答案,不应只有一种。我们的目标,不是替所有人给出统一答案,而是让每一个人都能够把自己的答案,真正融入前沿 AI 的发展之中。

今天 AI 的发展方向,越来越强调中心化与自主化。在这种路径下,人类参与似乎总意味着能力下降,拥有权似乎总意味着安全风险。我们并不接受这样的二元对立。在我们看来,这些都只是尚未解决的技术问题。

我们希望构建这样一种 AI:它因为鼓励人的参与而变得更加强大;组织因为能够持续塑造自己的 AI 而获得长期竞争优势;Alignment 来自一个由无数不同拥有者共同塑造的 AI 生态,而不是一个唯一正确的模型。这正是 Thinking Machines 希望解决的问题,也是我们的使命。

未来,并不是在人类主导与被 AI 淘汰之间二选一。通往未来的道路不止一条,而选择走哪一条,仍然掌握在人类自己手中。我们希望构建的技术,能够让人类与自己创造出的智能,并肩前行。

来源:http://www.bianews.com/news/details?id=241567

相关热点

继续查看同栏目近期热点。

延伸阅读

补充最近整理过的热点入口。