游乐游手机版
首页/科技数码/文章详情

OpenAI底层优化使AI模型推理成本减半

时间:2026-07-01 10:57
近期业内热议:OpenAI内部工程师透露,他们通过一系列底层系统优化,成功将AI模型的推理成本降低了超过50%。简单来说,这就是决定每次模型调用所需计算资源开销的“运行成本”。 首先解释一下概念,推理成本并非训练成本,而是模型上线后,每次响应用户请求时消耗的计算资源。可以这样理解:模型每一次回答问题

近期业内热议:OpenAI内部工程师透露,他们通过一系列底层系统优化,成功将AI模型的推理成本降低了超过50%。简单来说,这就是决定每次模型调用所需计算资源开销的“运行成本”。


首先解释一下概念,推理成本并非训练成本,而是模型上线后,每次响应用户请求时消耗的计算资源。可以这样理解:模型每一次回答问题或生成文本,背后都在消耗实际的算力成本。

关键在于本次优化的路径与以往不同——并非依赖增加芯片数量,而是大幅提升了现有服务器资源的利用率。换言之,同一批英伟达芯片现在可以承担更多工作负载。节省下来的芯片资源,OpenAI既可以用于下调API定价,也可以用于提升用户配额。对开发者而言,这无疑是一个利好消息。

来源:https://www.163.com/dy/article/L0N44D7S0511B8LM.html
上一篇鸿蒙智行智界V9旗舰MPV 6月交付量突破5000台 下一篇腾势N8L闪充版上市7天获30+项OTA升级
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
OpenClaw手机App上线,结果翻车了
科技数码 · 2026-07-01

OpenClaw手机App上线,结果翻车了

OpenClaw 官方宣布,已正式推出 iOS 和 Android 原生移动 App,用户如今可以在手机上使用这款主打“能真正帮你做事”的个人 AI 助手。官方在 X 上给出的定位也很直接:把 Agent 放进口袋里,让用户可以在移动端处理频道消息、任务和回复。从功能上看,OpenClaw 移动端并

优必选CEO周剑:家庭机器人生态核心投入过半精力
科技数码 · 2026-07-01

优必选CEO周剑:家庭机器人生态核心投入过半精力

先说几个核心判断:优必选正在布局一盘长远战略。创始人兼CEO周剑在近期一场媒体沟通会上,直接亮出了公司未来的发展路线——工业、商用、家庭陪伴机器人三条业务主赛道并行推进,现阶段每条线各占约一半精力。一边是已经能够稳定创造收入的工业场景,另一边则是他眼中“最具想象力与未来空间”的家庭陪伴领域。工业人形

CPO/NPO/OIO开启封装级光连接价值空间,技术路线尚未收敛
科技数码 · 2026-07-01

CPO/NPO/OIO开启封装级光连接价值空间,技术路线尚未收敛

6月30日,申银万国在光连接系列研报中重点指出,MPO光连接器领域的投资机会值得高度关注。通俗来说,随着AI算力集群持续扩张,光互联升级带来的连锁效应——数据中心光纤通道数量、前面板端口密度、机柜内光纤管理复杂度——均在同步攀升。光连接器的角色早已超越传统的低价值标准件,如今它直接决定着链路插损、可

龙岗AR实景剧本游内测体验短板有效破解之道
科技数码 · 2026-07-01

龙岗AR实景剧本游内测体验短板有效破解之道

在今年龙岗区第二届人工智能与机器人发展大会上,区级部门一次性推出了7个AI“龙搭子”。其中,名为“龙导游”的成果成为文商旅融合领域的核心亮点。据南都N视频记者了解,依托“龙导游”打造的全区全域AR实景剧本游“龙岗大陆”,已在今年五一假期发布了内测版本。经过一个月市场验证后,该项目正式启动面向全社会的

南下资金6月30日净买入中芯国际与建滔积层板
科技数码 · 2026-07-01

南下资金6月30日净买入中芯国际与建滔积层板

6月30日,南下资金持续大举买入港股,单日净流入金额高达58 95亿港元。接下来,我们直接盘点哪些个股获得资金青睐、哪些遭到减持: 净买入方面,中芯国际领跑全场,单日吸金19 33亿港元;建滔积层板紧随其后,净买入10 59亿港元;腾讯控股获得7 65亿港元净流入;智谱(02513 HK)也有6 5