ChatGPT和GPT-4的横空出世，让OpenAI一夜之间站到了聚光灯的正中央。这家公司从默默无闻的技术研究机构，变成全世界最受关注的AI玩家，外界的好奇、期待、质疑，也潮水般涌来。

但“欲戴王冠，必承其重”这句话，放在OpenAI身上再合适不过。当一项技术走到临界点，人们的目光自然会从“它能做什么”转向“它该不该做”。几个月前，非营利组织“生命的未来研究所”发出一封公开信，以大型语言模型可能给社会带来不可控风险为由，呼吁全球AI实验室暂停训练比GPT-4更强大的系统，期限六个月。公开信的签署名单相当有分量——图灵奖得主Yoshua Bengio、伯克利计算机教授Stuart Russell、特斯拉CEO埃隆·马斯克、苹果联合创始人Steve Wozniak，以及数千名学者和企业家。虽然没有直接点名，但所有人都清楚，能在最短时间内拿出比GPT-4更强系统的公司，掰着指头数也就那么一两家，OpenAI必然是首当其冲的那一个。

这封信到底是冲着阻止OpenAI来的，还是真心担忧LLM的负面效应？业内至今没有统一答案。但围绕它引发的争论，已经明显分成了两派：

• 一派认为，“具有人类竞争智能的人工智能系统会对社会构成深刻风险”。甚至有非营利机构直接要求美国联邦贸易委员会（FTC）调查OpenAI，阻止GPT-4投入商用；

• 另一派则坚持，LLM确实在为社会带来真实的改进和帮助，不能因为部分人的担忧就踩下整个行业的刹车。

那么，在两派拉锯的背景下，LLM的研发最终会走向何方？原本计划下半年推出的GPT-5还能如期到来吗？LLM的真正风险到底有多严重？这些问题，值得认真拆解一番。

支持派：暂停训练比GPT-4更强的模型

“只有当我们确信它们的影响是积极的、风险可控时，才应该开发强大的人工智能系统。因此，我们呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统，至少6个月。这种暂停应该是公开且可验证的，所有关键参与者都必须执行。如果无法迅速落实，政府应该介入并强制暂停。”公开信的措辞相当硬朗。

同时，信中明确提出，“AI实验室和独立专家应利用这段暂停期，共同制定一套高级AI设计与开发的共享安全协议，并由独立外部专家进行严格审计和监督”。当然，信中也强调，这并不意味着全面叫停AI开发，而是从“越来越大的不可预测黑盒模型”的危险竞赛中后退一步。

这场运动的发起者之一、图灵奖得主Yoshua Bengio表示，“民主价值观与这些工具的开发方式之间存在冲突”。未来生命研究所所长、MIT物理学教授Max Tegmark则警告，最坏的情况下，人类将逐渐失去对文明的掌控权，而真正可怕的是，“我们失去了对科技公司里一小群未经选举的人的控制，他们正获得巨大的影响力。”

事实上，微软、Google等巨头之间的AI军备竞赛早已全面展开，过去一年里新产品的发布频率让人目不暇接。这种节奏终于引发了公愤。公开信之后，另一家非营利机构——人工智能和数字政策中心（CAIDP）直接将OpenAI告到了美国联邦贸易委员会。他们要求FTC调查OpenAI，理由是GPT-4的发布违反了商业法，产品具有欺骗性且将公众置于危险之中。CAIDP指出，“FTC已明确表示，AI的使用应当透明、可解释、公平、有经验，并且促进问责制。但OpenAI推出的是一个有偏见、有欺骗性、对隐私和公共安全构成风险的产品。现在是FTC采取行动的时候了。”

他们还批评OpenAI在模型和训练数据方面缺乏透明度，并敦促FTC禁止所有基于GPT的产品的进一步商业部署，要求对OpenAI进行独立评估，确保符合委员会规则后才能重新上市。

反对派：不能停止未来GPT-5乃至更强模型的训练

OpenAI自己也承认GPT-4并不完美——它会在事实验证上出现错乱，会犯推理错误，偶尔还有过度自信的毛病。连CEO Sam Altman都曾在采访中表示，公司对AI的潜力“有点害怕”。但他马上补充，这是“好事”——AI可能会取代许多工作，但也可能带来更好的机会。

对于那封公开信的呼吁，不少AI专家持明确反对态度。前谷歌大脑成员、Coursera创始人吴恩达连发四条推文，强烈抨击“暂停计划”。他写道：“呼吁暂停6个月训练比GPT-4更强的模型，是一个可怕的想法。我看到了教育、医疗、食品等领域的许多新应用，它们将帮助无数人。改进GPT-4本身就是巨大的价值。我们应该平衡AI创造的真实价值和现实风险。”

他还指出，除非政府介入，否则不可能真正实施暂停——所有团队扩大LLM规模的竞赛根本停不下来。而让政府来暂停他们并不了解的新兴技术，是反竞争的，会树立一个糟糕的先例，也是糟糕的创新政策。负责任的人工智能当然重要，但媒体渲染的“AI公司疯狂输出不安全代码”并不符合事实。绝大多数AI团队都在认真对待安全研究。6个月的暂停期不是可行的建议，围绕透明度和审计的法规反而更实用、更有影响力。“与其扼杀进步，不如在推动技术的同时加大对安全的投入。”

更有专家批评这封信实际上是推波助澜，加剧了“AI炒作”的周期，而不是针对当前LLM存在的具体风险提出可执行的行动方案。

值得一提的是，公开信中引用了一篇论文作为论据，但该论文的共同作者、华盛顿大学语言学教授Emily M. Bender直接在推特上表示，这封信“掺杂了#Aihype”，滥用了她的研究。公开信写道：“大量研究表明，具有人类竞争智能的人工智能系统会对社会和人类构成深刻风险。”但Bender反驳说，“我们在2020年底写了一篇论文（《随机鹦鹉》，2021年发表），指出这种不考虑风险就一头扎进越来越大的语言模型的做法是一件坏事。但风险和危害从来不是关于‘太强大的人工智能’本身。恰恰相反——它们是关于权力集中在人手中，关于压迫制度的再现，关于信息生态系统的损害，以及关于自然生态系统的损害（因为对能源的暴殄天物）。”

Hugging Face的研究科学家兼气候负责人Sasha Luccioni也持相似观点：“这封信本质上是误导——让所有人关注LLM假设的权力和危害，然后提出一种非常模糊且无效的解决方案，而不是正确看待眼前的风险并尝试解决。比如，当LLM出现时，应该要求企业对其训练数据和能力实现更高的透明度，或者针对何时何地可以使用它们进行立法。”

GPT-4以及后续更强的模型为何成为众矢之的

截至目前，OpenAI联合创始人Greg Brockman发了数条推文，声明GPT-4的进步与立场。他表示，“在现实世界的对抗压力下部署GPT-4，是对实际AI对齐的一次伟大实践。虽然只是开始，但我们对迄今为止达成的一致程度感到备受鼓舞——以及我们为改善问题而不断成熟的工程流程。”他举例说，模型在棘手或对抗性话题中的良好行为，大部分来自模型已经概括了“人类导师”的概念——即成为一个有帮助的AI助手。“在GPT-3中，我们没法控制模型的行为。现在，我们选择一组问题（比如模型在错误答案上频率非常高——这曾经是个大问题），建立评估、收集数据、每周重新训练、部署。任何人都可以测试我们是否已经改进了。但对齐GPT-4只是一个环节，不是终点。已经实现了很大进步，但还需要进一步扩展到人类甚至无法判断输出的问题。”

OpenAI在官方博客中也反复强调，对齐研究旨在使人工智能（AGI）与人类价值观保持一致并遵循人类意图。然而，OpenAI的发声并未获得激进派的认可。这家公司之所以深陷舆论漩涡，不外乎两个原因：

一是LLM技术发展速度远远超出很多人的预期，而相关的法律法规、道德与使用规范还存在巨大缺失。DeepMind研究团队曾在《语言模型危害的伦理和社会风险》论文中系统梳理过LLM可能带来的多重危害——歧视、仇恨言论和排斥、信息泄露、虚假信息、恶意使用、人机交互风险、环境和社会经济影响。如何降低这些潜在危害？作为行业领头羊，OpenAI必须给出答案——因为它的很多动作都会成为后来者的参照。但现实是，这并非OpenAI一家的事，而是需要整个AI生态共同制定规则。

二是树大招风，GPT-4的不透明性引发了广泛不满。自ChatGPT和GPT-4发布以来，“OpenAI不再Open”的批评不绝于耳。Nomic AI信息设计副总裁Ben Schmidt曾发推指出，OpenAI在发布GPT-4的98页技术报告中，对训练集内容只字未提。有网友直言，OpenAI正在“假装”开放。

至于LLM到底应该开源还是闭源，这本身又是一个争论不休的问题。据外媒The Verge报道，OpenAI首席科学家Ilya Sutskever在受访时回应过：“OpenAI不分享GPT-4的更多信息，原因不言而喻——害怕竞争和安全担忧。”他解释说，“从竞争格局看，外面的竞争非常激烈。GPT-4的开发并不容易，几乎整个OpenAI团队花了很长时间才做出来，而且现在很多公司都想做同样的事。安全方面，目前还没有竞争那么突出，但会改变。这些模型非常强大，而且会越来越强大。在某种程度上，如果有人想的话，很容易用它们造成很大伤害。随着能力增强，你不想透露细节是有道理的。”

从商业角度看，不公开架构、硬件、训练计算、数据集构建、训练方法等细节合情合理。但另一方面，不公开训练数据，外界就很难判断系统可以在哪里安全使用、如何提出修复方案，这显然不利于大模型的整体研究。

所以，回到那个核心问题：你是否支持暂停更强大模型的训练？大模型究竟是开源好，还是闭源好？这场争论，恐怕还会持续很久。