Volcano 社区正式推出全新子项目 AgentCube,这是一个基于 Volcano 构建的高性能 AI Agent 编配平台。它通过对 Kubernetes API 进行深度扩展,将 Agent 实例与各类工具(如代码解释器、浏览器操作模块等)统一抽象为集群中的一等资源,从而为构建复杂的智能体应用提供坚实的底层支撑。“这不仅是一组扩展 API(CRD),更是一套专为 Agent 应用设计的 Serverless 操作体系。”
AgentCube 定义了两类核心扩展资源,用于描述不同场景下的 Agent 工作负载:
1. AgentRuntime: 专为长周期、多轮次对话式 Agent 而设计。
- 支持配置会话的生命周期策略、资源配额(CPU / 内存分配)以及状态持久化机制。
2. CodeInterpreter: 面向短时、高频、单次执行类的代码运行环境。
- 倡导“即用即弃”的理念,具备强安全隔离能力,原生兼容多种 MicroVM 运行时(如 Kuasar、Kata Containers、Firecracker)。
未来,AgentCube 还计划持续拓展对 BrowserUse、ComputerUse、MobileUse 等多样化工作负载的抽象支持。
AgentCube 核心技术特性
1. 超低延迟启动
为彻底规避冷启动瓶颈,AgentCube 引入了 Warm Pool(预热池)机制。系统会预先拉起并挂起一批已加载基础运行环境的 MicroVM 沙箱。当新的 Agent 请求抵达时,AgentCube 采用“Claim-and-Go”模式,在毫秒级内完成沙箱的分配与唤醒,从而提供近乎零感知的启动体验。
2. 高效智能调度
依托 Volcano 自研的 Agent Scheduler,AgentCube 在调度吞吐量与延迟方面实现了显著突破。
- 高并发低延迟:针对 Agent 流量突发性强的特点,采用乐观并发控制与轻量化调度逻辑,大幅提升每秒调度事务数。
- 多负载协同调度:Volcano Agent Scheduler 可与现有批处理调度器无缝共存,在统一调度框架下兼顾 Agent 类任务与传统批处理作业,实现资源利用率与核心业务服务等级的有效平衡。
3. 内置会话感知路由与管理
AgentCube 以 Session ID 为核心标识,构建端到端的会话上下文保障体系。
- 智能请求分发:AgentCube Router 自动解析请求头中的会话标识字段,并精准路由至对应的活跃沙箱。
- 沙箱按需唤醒:若目标会话所绑定的沙箱当前处于休眠状态,Router 将自动触发其恢复运行。
- 会话级资源隔离:每个会话独占一个沙箱实例,在计算、内存及文件系统层面实现硬隔离,杜绝跨租户数据泄露风险。
4. Serverless 式弹性伸缩
AgentCube 动态感知会话活跃度,自主调控沙箱生命周期。闲置沙箱将被自动回收或转入休眠状态,释放底层物理资源,交由更高优先级任务使用,真正达成资源按需供给与极致复用。
AgentCube 整体架构示意
AgentCube 采用标准的控制面与数据面分离架构,兼顾系统稳定性、可维护性与横向扩展能力:

- 数据面:由 AgentCube Router 承担。作为统一入口网关,负责身份校验、流量限速及基于 Session ID 的动态路由。对于新建会话,它向控制面发起资源申请;对于已有会话,则直接转发请求至对应沙箱。
- 控制面:核心组件 Workload Manager 全权管理沙箱全生命周期。它持续监控预热池水位,按需扩容 MicroVM 实例,并依据生命周期策略执行沙箱回收与清理。
- 调度层:集成 Volcano Agent Scheduler,借助异步并行调度与乐观锁机制,在高并发场景下实现毫秒级资源分配。
源码地址:点击下载
