Lilian Weng首谈离职OpenAI创业，解析AI研究的现实困境

首页

科技数码

热心网友

转载

2025-12-06

作为人工智能领域最具影响力的科学家之一，Thinking Machines联合创始人、前OpenAI研究副总裁Lilian Weng的诸多研究思路与方法论，至今仍在启迪着无数AI从业者。

免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈

2024年10月18日，在告别OpenAI、联合创办Thinking Machines后，Lilian Weng在硅谷难得地参与了一场公开对话。在这场由华源Hysta举办的2025年度炉边谈话中，她与主持人、硅谷知名投资人Connie Chan畅谈了自己的学术历程、研究心得，以及在OpenAI期间的思考与Thinking Machines的发展方向。

以下为现场实录。

“数学竞赛让我意识到自己只是个普通人”

Connie：大家好！今天的对谈嘉宾是Lilian Weng。我相信她是许多人心中敬仰的榜样。我先简单介绍一下她的背景，虽然我知道在座的很多人已经对她很熟悉了。Lilian Weng是Thinking Machines的联合创始人，曾任OpenAI的研究副总裁。在OpenAI任职期间，她带领团队突破了机器人学习解决复杂任务的难题，比如让机械手灵活解开魔方。她还创立了应用AI研究团队和AI安全团队，推动建立了如ChatGPT用户界面等行业标准。她毕业于北京大学，并在印第安纳大学获得博士学位。今天我特别期待能与她深入交流。通常我在进行这类对话时，都会先了解嘉宾本人——所以我很好奇，你的朋友们会用什么词来形容你呢？

Lilian：谢谢Connie这么热情的介绍。希望今天可以多聊聊。

说到性格，我的朋友会觉得我非常有条理、有耐心。我认为自己最重要的特质是“坚持”和“谦逊”。这是让我能够持续学习新知的唯一途径。因为在我们的领域里，永远不存在一个掌握一切的权威——每天都有新知识涌现，你必须不断跟进。

Connie：这种持续学习的特质确实令人印象深刻。在你的成长过程中，有没有什么时刻让你形成了这样的心态？

Lilian：有时我也会反思这个问题，回想我的成长经历和童年时光。有一件事我认为对我的职业生涯产生了重要影响，那就是从小参加数学竞赛，一直持续到大学前……我很早就对数学产生了浓厚兴趣。

这段经历教会我的是，我因此结识了许多数学天才，并意识到无论我多努力，无论我在班级或学校里表现多么优异，我与他们的天赋之间仍然存在巨大的鸿沟。我不得不承认，这个世界上总有比你更优秀的人，你必须拼尽全力，才能与他们比肩而立。这件事让我保持谦逊，让我觉得，是的，你只是个普通人，努力奋斗吧。

Connie：这个体会挺反直觉的——数学竞赛反而让你认识到自己其实是个“普通人”。

另外，你对学习的热爱是怎么开始的？你需要跟上其他人，但同时你自己也充满好奇心的。

Lilian：小时候我家里有一套百科全书，我特别喜欢读——各种主题都有。

Connie：在场的观众里，有人是读百科全书长大的吗？

Lilian：可能现在的孩子们他们可以读维基百科了。

Connie：你都读哪些科目呢？

Lilian：我最爱的是天文学、生物学、数学，甚至占星学。我觉得学习新知识、拓展视野的感觉非常愉悦。后来当我接触到深度学习（deep learning）时，那种感觉又回来了——我当时想：“天哪，这个领域太迷人了。”

也正是这种好奇心让我加入了OpenAI。

在OpenAI早期从事研究，感受到“现实扭曲力场”的时刻

Connie：你是在2017年加入OpenAI的，对吧？

Lilian：对，我是在2017年11月面试的。当时OpenAI还是一个非营利组织，那时AGI（通用人工智能）还不是个热门概念。当时最让我印象深刻的是那群人都充满热情，他们在研究一些极其前沿、甚至有点疯狂的想法，而且动机不是为了金钱，而是对知识的兴趣与实验的爱好。

Connie：当时团队有多少人？

Lilian：大约60人。

Connie：哇，太不可思议了。

我想从你在OpenAI的第一个项目聊起，就是你用机器人解魔方的那个项目……跟我们讲讲当时机器人技术的发展状况是怎样的？你在做那个项目时有哪些“顿悟时刻”？当初为什么会想做这些事情？

Lilian：那是我做过的最酷的项目之一，可能也是最难的。

当时机器人领域已经开始拥抱深度学习模型。所以我们项目的初衷是探索我们能否在纯模拟环境中训练一个策略模型来完全控制机器人，不使用任何真实世界的数据，去解决一个极其复杂和具有挑战性的机器人任务。

在当时的任何学术会议上，讨论感知、导航和操控三大方向时，人们总会说操控（manipulation）最难，因为几乎不可能精准模拟真实物理交互。我现在仍然认为我们不能100%准确地为此建模。

所以我们选择了接受这个挑战。然后我们继续挑选具体任务，同样考虑什么是最复杂的，那就是解决一个需要你动用所有手指的任务——这可能就是最难的，我们就从这里开始。这确实有点疯狂。

我必须说，在项目结束时，我仍然对我们取得的成果感到惊讶。

编者注：

策略模型（Policy Model）：在强化学习中，“策略”定义了智能体（Agent）在特定状态下应该采取什么行动。策略模型就是学习和代表这个策略的神经网络。

领域随机化（Domain Randomization）：一种“模拟到现实”（Sim-to-Real）的迁移学习技术。它通过在模拟环境中生成大量具有不同物理和视觉属性（如光照、纹理、摩擦力）的训练样本，让模型学会在一个广泛的、不确定的环境中也能稳健地工作，从而更好地泛化到无法被完美建模的真实世界。

Connie：但你们还是坚持下来了——这与好奇心有关吗？

Lilian：这是一个团队合作的过程。所以与团队一起工作，当你的队友拥有不同的才能时，你也会相信这个项目。这会给你很多能量。

Connie：当机器人真的解开魔方时，你是什么感觉？

Lilian：当时，我其实在想人们用来描述史蒂夫·乔布斯最好的特质之一的词：“现实扭曲力场”（Reality Distortion Field）。

人们描述史蒂夫·乔布斯时说，他周围有一个力场，如果他想做某件事，即使它在现实中看起来不可能，他也能扭曲它并使之实现。

我认为每个人都有类似的东西，尤其是在研究中。如果你相信某个方向，即使它看起来不可能，但只要你足够努力、足够聪明地去尝试，你会找到让它成功的方法。这基本上就是我当时的感觉。

Connie：既然你拥有丰富的机器人技术经验，你对目前机器人发展阶段有什么看法？你看好吗？你现在花在机器人上的时间少了，但关于机器人技术，你有什么想分享的总体看法吗？

Lilian：我确实认为机器人领域正在通过引入语言模型作为大脑规划器而获得新的活力。

其实我记得当我们在OpenAI内部刚推出GPT-3时，我们做了一些小型试验性项目，试图看看能否将机器人技术和语言模型结合起来，但那时候GPT-3还笨拙不像样子。而现在模型在解决复杂和推理问题上已经变得如此出色和智能，这对某些机器人任务来说非常重要。如果我们能结合硬件方面的一些新进展，我认为将来会是很棒的东西。

Connie：所以你对机器人技术非常看好。

Lilian：嗯……我还没有更多的了解。我算是乐观（optimistic）吧，但我认为需要了解关于当前领域的情况，才能有信心说看好它的发展。

OpenAI早期产品化尝试的经验——给社区提供一个API很重要

Connie：那么在你在OpenAI从事机器人方面的工作之后，你实际上创立了OpenAI的应用人工智能研究团队（Applied AI Research Team）。那个团队负责一些最重要的事情，这些事情影响了今天在座的每一个人。你们当时在探索GPT-3的产品化，探索模型如何用于日常工作。

在这个过程中有哪些重要的经验？

你可能会知道，OpenAI API是在ChatGPT之前推出的，那是OpenAI首次尝试将大型语言模型产品化。

那是一段有趣的经历。我很惊讶地发现，当时一些看似随意（arbitrary）的决定，现在却成了行业标准。比如API的接口，我们当时叫它“补全端点”（completion endpoints），所有这些命名方式后来却成了标准，但当时这真的只是一场实验，我们当时举办黑客松来探讨如何将大型语言模型用于不同场景。

因为我们其实并不知道使用它的最佳方法是什么。所以我们想，如果能提供一个API，让大家去尝试，而且还能提供给大家这个工具，或许就能发现一些非常有创意和新颖的用例。这是当时的动机。

编者注：

补全端点（Completion Endpoints）：这是早期LLM API的核心交互模式。用户提供一个文本开头（Prompt），API则会“补全”接下来的内容。这种简单的模式极具通用性，可以应用于问答、翻译、摘要、代码生成等多种任务。

Connie：你对这些产品后来的成功感到惊讶吗？

Lilian：（思考了许久）是的。

Connie：在你于OpenAI任职的后期，你领导着AI安全团队，一个超过80人的团队。所以在你任职OpenAI期间，真正从一名独立贡献者，转变为公司高管。但在我们讨论那个高管角色之前，你会如何定义所谓的AI安全？

Lilian：我可能会考虑两个方面。一个是关于模型行为应遵循的规则和道德标准。另一个是关于定制化，比如人们对安全、容忍度以及不同地区的法律、法规有不同的理解，或者是你如何建立某种程度的控制，以便人们可以安全地部署它。

Connie：考虑到那个角色对全人类有多么重要，你作为管理者是如何管理这种压力的？

Lilian：我肯定认为OpenAI是一家伟大的公司。但同时我也看到这个公司一步步发展到今天的水平。所以对我来说，真的只是以正确的方式做好我的日常工作，而不是过多考虑压迫感。

Connie：那么在那个安全团队里，给我们讲讲一些你曾经解决或思考的问题吧。

Lilian：试图建立某种（对模型安全的）控制水平，或者定制不同的行为策略，其实都是多样化的。

你必须真正理解人们才能预测问题会是什么。同时，你需要将其与各种后训练技术联系起来，看看你是否能够实际处理许多非常模糊的任务。