游乐游手机版
首页/AI热点日报/热点详情

Crusoe AI平台新增无服务器微调与自助推理部署

类型:热点整理2026-07-11
Crusoe在IntelligenceFoundry平台推出无服务器微调与自助推理部署功能,支持企业定制开源模型并导出权重,降低GPU基础设施门槛。动态调度避免资源闲置,按Token和GPU小时计费。平台强调模型可移植性,避免供应商锁定,已支持Qwen、DeepSeek等主流模型。

AI 平台新突破:Crusoe 推出无服务器微调与自助推理部署服务

Crusoe扩展AI平台:推出无服务器微调与自助推理部署

Crusoe 近期在其 Intelligence Foundry 平台上进行了重要升级,正式上线了无服务器微调(Serverless Fine-Tuning)与自助推理部署(Self-Service Inference Deployment)功能。简单来说,这项更新让希望定制开源模型的企业 AI 团队,无需自行搭建 GPU 基础设施,即可快速上手并高效运行。

新功能支持客户对开源基础模型进行微调,随后部署至托管推理端点,或将训练完成的模型权重导出至其他平台使用。这一举措,本质上显著降低了企业应用 AI 的门槛,让模型定制与生产部署变得更加顺畅。

企业焦点从 GPU 访问转向全栈 AI 平台

此次发布背后,折射出 AI 数据中心市场一个更根本的演变趋势。随着开源模型质量持续提升,市场竞争的焦点已从“谁能提供更多 GPU 算力”转向“企业能否在控制成本、保留模型所有权的同时,顺利从实验阶段过渡到生产部署”。

IDC 研究副总裁 Dave McCarthy 对这一趋势洞察深刻。他表示,竞争早已不是简单的 GPU 访问。“GPU 访问是过去约 18 个月的核心议题,但如今已不再是全部。”他接触的每一家企业都明白,原始算力只是入场券。真正的差异在于,微调流程、评估机制、部署工具以及推理优化,能否作为一个整体系统协同运作。

McCarthy 还点出了一个关键风险:只关注算力的服务商很容易陷入同质化。“只提供芯片的供应商会被商品化。最终胜出的,是那些能管理整个模型生命周期的平台——从训练数据到生产监控,而不仅仅是底层硬件。”他特别强调,模型可移植性已成为企业采购的硬性要求,不再是锦上添花的附加项。

开源模型驱动持续微调需求增长

Crusoe 产品高级副总裁 Erwan Menard 观察到,开源模型在质量上已明显跨越可用门槛。越来越多企业希望拥有对模型的自主控制权,而非依赖第三方专有 API。

“团队可以基于自有数据,衍生出专属版本的模型,并自主决定何时在智能体中停用该模型,而不是被动等待第三方供应商悄悄更换底层模型。”Menard 说。

随着企业从单纯调用 API 转向更深度的模型使用,持续微调的需求正在快速增长。许多 AI 原生企业已不再将微调视为一次性开发步骤,而是定期将生产环境数据反馈到开源模型中,一方面提升性能,另一方面降低推理成本。

Menard 坦言:“微调需求的增速超出了我们的预期。对于正在构建生产级 AI 智能体的团队来说,模型生命周期的自主管控正在变成刚性需求,尤其是在模型可预测性和数据所有权被列为采购标准的企业环境中。”

目前,该平台支持 Qwen、DeepSeek、Gemma 以及 GPT-OSS 等一系列主流开源模型。

动态调度有效降低 GPU 闲置成本

与传统需要预留 GPU 集群的 AI 训练环境不同,Crusoe 采用动态调度方式,在 AI 基础设施中灵活分配微调任务。

“微调工作负载本身具有波峰波谷的特性。”Menard 解释说,“预留容量模式会迫使团队为峰值负载超额购买资源,导致其他时间昂贵硬件闲置。”

该服务能自动重启中断的任务,在训练过程中保存检查点,并在模型停止改善时自动停止计费。客户获得的训练完成模型权重为开放的 .safetensors 格式,可在 Crusoe 或其他平台上自由部署。

在生产推理方面,公司新推出的自助部署服务基于 Nvidia H100 和 H200 GPU 运行,客户无需直接管理基础设施,即可部署托管推理端点。

可移植性:通过可导出权重保留模型所有权

Menard 表示,Crusoe 的目标是消除模型定制与生产部署之间的操作摩擦。采用开源模型的企业,越来越希望保留对微调模型的所有权,不愿被锁定在单一推理平台上。

无服务器微调与自助部署服务计划于下周通过 Crusoe Intelligence Foundry 正式上线。微调服务按每百万 Token 计费,推理部署则按 GPU 使用小时收费。

Q&A

第一个问题:Crusoe Intelligence Foundry 平台的微调服务如何收费?

无服务器微调服务按每百万 Token 计费,推理部署按 GPU 使用小时收费。与传统需要预留 GPU 集群的模式不同,该平台采用动态调度,模型训练停止改善时自动停止计费,避免用户为闲置硬件买单,有效降低企业的 AI 开发成本。

第二个问题:目前支持哪些开源模型?

目前支持 Qwen、DeepSeek、Gemma 以及 GPT-OSS。企业可基于这些模型,用自有数据微调,生成专属版本,并以开放的 .safetensors 格式导出模型权重,部署在 Crusoe 或其他平台上。

第三个问题:为什么企业越来越重视 AI 模型的可移植性?

IDC 研究副总裁 Dave McCarthy 指出,模型可移植性已从业内常说的“锦上添花”变成硬性要求。企业不想被锁定在单一推理平台,也越来越重视对微调模型的自主所有权,不愿因第三方供应商更换底层模型而被动受影响。能在权重导出上提供灵活性的平台,显然更具竞争力。

来源:https://ai.zhiding.cn/2026/0711/3192963.shtml

相关热点

继续查看同栏目近期热点。

延伸阅读

补充最近整理过的热点入口。