7月30日消息,AI研究员翁荔(Lilian Weng)在结束与Thinking Machines Lab的短暂合作后,即将重返OpenAI,主导递归式自我改进(Recursive Self-Improvement)方向的研发工作。据科技媒体The Information援引OpenAI发言人消息,该人事变动已获得官方确认。
7月28日,翁荔在X平台发布离职信,正式宣布离开Thinking Machines Lab。她在信中坦言,过去七个月里,自己的生病频率远超以往任何时期,持续的高压工作与巨大工作量已超出身体可承受的范围。她表示,自己依然对AI研究充满热情,但更倾向于回归职责清晰、节奏可预测的研究岗位,而非继续担任联合创始人角色。当时翁荔并未透露下一步去向。
据一位知情人士透露,翁荔在OpenAI将专注于递归式自我改进研究。所谓递归式自我改进,并非单纯指模型自行修改参数,而是更广泛地运用AI技术参与并优化模型研发流程本身。目前,OpenAI尚未公开披露她的具体职务与所属团队。
翁荔于7月4日在个人博客Lil'Log上发表题为《Harness Engineering for Self-Improvement》的文章,将自我改进划分为两类:一类是模型直接修改自身参数;另一类是模型辅助改进训练流程,再利用这些优化后的流程开发出更强的新模型。后者涉及的范围不仅包括模型本身,更涵盖了工具、环境、记忆、评估机制以及训练流程。例如,模型可以协助设计实验方案、撰写训练代码、检查结果并调整下一轮任务,但每一步仍需明确目标、设定评估标准并辅以外部控制。根据The Information的描述,翁荔重返OpenAI后的工作将聚焦于这一研究方向。
翁荔于2018年加入OpenAI,先后负责机器人技术、应用AI、安全系统等多个关键领域,并担任研究与安全副总裁。这些经历使她在模型研发、安全评估及训练系统方面积累了深厚经验。
在翁荔离开之前,Thinking Machines Lab于7月15日发布了其首个开放权重模型Inkling。Inkling是一款能够处理文本、图像及音频的混合专家模型,总参数规模达到9750亿,激活参数为410亿,支持最长100万token的上下文窗口。Thinking Machines Lab还利用Inkling展示了一次受控的自我改进实验:模型通过公司的Tinker平台自主编写微调任务,生成训练与评估流程,完成微调后自动切换至新权重。目前,翁荔在Inkling项目中的具体职责尚未公开披露。
Inkling发布后不到两周,翁荔便宣布离开。她是过去一年内第四位告别Thinking Machines Lab的联合创始人:此前,安德鲁·图洛克(Andrew Tulloch)已转投Meta,巴雷特·佐夫(Barret Zoph)与卢克·梅茨(Luke Metz)则于今年1月回归OpenAI。至此,创始团队仅剩米拉·穆拉蒂(Mira Murati)和约翰·舒尔曼(John Schulman)两人。
截至目前,OpenAI尚未披露翁荔的新职务及所属团队详细信息。Thinking Machines Lab的创始团队已从六人缩减至两人,能够同时统筹模型训练、产品研发与安全研究的核心人才明显减少。(易句)
