游乐游手机版
首页/AI教程/文章详情

OpenAI正式为Responses API引入WebSocket模式实现低延迟实时流式双向通信

时间:2026-06-24 11:42
OpenAI为ResponsesAPI引入WebSocket模式,专为长时间多工具调用任务设计。通过持久连接替代传统HTTP往返,仅传输增量数据,减少开销。20次以上工具调用时端到端速度提升20%-40%,连接最长维持60分钟,不支持多路复用,兼容零数据保留设置。

OpenAI 在“长时间运行、多工具调用”这类复杂多步骤场景中,悄然完成了一次重要升级。此次迭代的核心,是为 Responses API 新增了 WebSocket 通信模式。

简而言之,这一模式专门服务于“模型与工具之间频繁交互”的工作流。例如代码自动化任务,或是需要反复调用外部工具的智能体编排流程——过去执行时总感觉“拖泥带水”,如今终于迎来了更高效的解决方案。

核心改进:从“拨号”到“连麦”

这次改进的本质,在于重塑了模型与工具之间的连接方式。传统的 HTTP 请求模式下,每次交互都必须将完整上下文重新发送一遍。这好比每次打电话都要从头介绍“我是谁、从哪来、要做什么”,效率自然大打折扣。

而 WebSocket 模式则建立起一条持久连接。用户只需传递新输入的内容以及上一次响应的 ID(previous_response_id),大量重复的传输开销便随之消除。

建立连接的方式十分直接:

(代码示例:创建 WebSocket 连接)

后续交互更加轻盈,仅需发送增量数据:

(代码示例:通过增量数据继续对话)

性能提升究竟有多实在?

数据最有说服力。对于涉及 20 次以上工具调用的复杂任务,端到端的执行速度可提升 20% 至 40%。这一提升并非偶然,而是得益于连接级的内存缓存机制——服务器会在内存中保留最近一次响应的状态,下次无需从头再来。

设想一个完整的代码重构流程:分析代码 → 定位问题 → 生成修复方案 → 应用修改 → 验证结果。每一步只需发送增量数据,整个链条自然运行得更加顺畅。

技术细节与边界条件:别忽略这些限制

在技术层面,WebSocket 模式兼容零数据保留(ZDR)以及 store=false 配置,这对隐私敏感场景无疑是个利好。不过需要留意一个硬性限制:连接最长只能维持 60 分钟。超时后需要重新建立连接。

(代码示例:处理连接超时的逻辑)

另一个值得关注的点是:当前该模式不支持多路复用。若你需并行运行多个独立的智能体任务,就不得不为每个任务建立单独的 WebSocket 连接。这一限制在架构设计时需提前纳入考量。

这次更新意味着什么?

此外,一个值得留意的信号是,此次更新与 Open Responses 规范密切相关。Open Responses 是一个开源项目,旨在为不同 LLM 提供商建立统一的 API 标准,目前已获得 Vercel、Hugging Face、Databricks 等公司支持。

从开发者社区的反馈来看,这一功能备受关注,尤其是那些正在构建复杂智能体系统的团队。当然,也有声音指出,这可能是一种增加供应商锁定的策略——毕竟状态管理越好,迁移成本也越高。

话说回来,对于大多数简单的对话场景,该功能或许并非必需。但如果你正在开发需要大量工具调用的智能体——例如代码审查助手、数据分析流水线或复杂的业务流程自动化——那么这次更新绝对值得投入时间深入探索。

来源:https://cloud.tencent.com.cn/developer/article/2695855
上一篇AI从零搭建用户权限系统的全流程记录 下一篇阿里开源OpenSandbox 面向AI智能体的生产级沙盒
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
Windows Docker Desktop RabbitMQ生产级部署完整指南
AI教程 · 2026-06-29

Windows Docker Desktop RabbitMQ生产级部署完整指南

前言 在 Windows 本地开发环境中,直接安装 RabbitMQ 确实颇为周折:需要单独配置 Erlang 运行环境、手动管理环境变量、服务启停全凭手工操作。更令人困扰的是,版本兼容冲突、端口占用、环境不一致等问题层出不穷。笔者见过不少开发者为搭建环境就得耗费整整半天时间。 相比之下,借助 Do

AI搜索重构制造业采购逻辑的阿里云企业级GEOCMS优化实践
AI教程 · 2026-06-29

AI搜索重构制造业采购逻辑的阿里云企业级GEOCMS优化实践

先分享一个切实感受。过去两年,我们与福建制造企业合作较为频繁,发现一个非常突出的现象:超过80%的企业官网,产品参数仍然存放在PDF或图片中。AI爬虫?根本无法抓取。这些企业技术实力不弱、资质证照齐全、应用案例也丰富,但在AI搜索这一全新战场上,它们几乎处于隐身状态。 一、一个正在发生的行业变化 A

阿里云Token Plan团队版功能价格与省钱购买指南
AI教程 · 2026-06-29

阿里云Token Plan团队版功能价格与省钱购买指南

阿里云百炼近期推出了名为“Token Plan 团队版”的全新服务,这一服务专为企业与开发者量身打造,定位为AI大模型订阅平台。通过引入Credits作为统一计量单位,将文本生成、图像生成等多模态AI能力纳入单一计费体系,同时无缝兼容主流AI编程工具及智能体(Agent)生态系统。其核心亮点包括:全

阿里云物联网.NET Core客户端位置信息上报
AI教程 · 2026-06-29

阿里云物联网.NET Core客户端位置信息上报

阿里云物联网平台的位置服务并非一个完全独立的功能模块。位置信息可包含二维坐标与三维坐标,而位置数据的来源本质上是借助设备属性进行上传。换言之,若要让设备上报位置,您需先将其视为一个普通属性进行处理。 1)添加二维位置数据 操作过程十分简洁。进入数据分析 → 空间数据可视化 → 二维数据,点击添加,将

年阿里云服务器选型配置与网站部署全攻略
AI教程 · 2026-06-29

年阿里云服务器选型配置与网站部署全攻略

2026年,阿里云服务器生态已高度成熟,形成了清晰的轻量应用服务器与ECS云服务器两大产品阵营。无论你是计划搭建个人博客、企业官网,还是运营电商平台、进行应用开发,基本都能找到理想的解决方案。本指南将从服务器选型、配置选择、部署流程到安全运维,系统梳理2026年最实用的操作要点,帮助你少走弯路,让网