Simon 最近把他的 OpenAI WebRTC Audio Session 工具更新了一版。这个项目最早在 2024 年 12 月就用来试验 OpenAI 的 WebRTC API,当时的目标很简单——让用户在浏览器里能和实时音频模型直接对话。而现在,它变得更像样了。
先说这次更新的背景。OpenAI 上个月在同一个 API 里悄悄塞进了一个新模型,叫 GPT‑Realtime‑2,官方宣传它是“首个具备 GPT‑5 级推理能力的语音模型”。听起来挺唬人,不过知识截止时间停在了 2024 年 9 月 30 日。Simon 重新打开那个旧 playground 之后,主要加了两样东西:一是用户现在可以挑选更好的模型,二是能直接粘贴一大段文档上下文,然后在浏览器里跟这段资料进行语音对话——不再是漫无目的地闲聊。
这其实点出了语音模型的一个核心困境:如果只能聊八卦、讲段子,那价值天花板很低。但一旦加入了用户提供的文档上下文,事情就变了——它更像一个“浏览器里的口头问答助手”,专门针对你指定的资料进行探索和讨论。使用方式也很直接:打开工具页面,在浏览器里选好模型、贴一段文档,然后通过 WebRTC 连接 OpenAI 的实时音频模型,就能开口问了。
适用场景其实很明确——个人知识阅读、文档讨论、资料复盘,这些活儿用它正合适。不过原文也很老实,没有吹它有长期记忆、复杂的 Agent 工作流或者企业级知识库能力。它就是个轻量工具,局限也摆在那:Simon 还在等这个模型进 ChatGPT iPhone app,但迟迟没看到;模型本身有知识截止时间;整个工具依赖 OpenAI 的 Realtime / WebRTC API,一断电就玩不转。
但这件事给了一个挺实用的启发:如果你打算做低门槛的多模态 AI 应用,不妨先把“实时语音输入输出”和“用户提供的文档上下文”这两个能力捆在一起试试——而不是一上来就铺开完整的 RAG 系统。先让用户能对着资料说话,这个切口已经很能打了。

