AI原生时代来临,商汤大装置如何重塑算力集群架构
近日,作为2026中关村论坛核心组成部分,由趋境科技与九源智能计算系统生态联合体共同主办的“全栈智能 全域推理:Token爆发元年的全场景大规模推理服务”专题研讨会成功举办。
免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈
商汤大装置首席架构师项铁尧受邀出席研讨会,并发表《商汤大装置AI原生云基础设施探索与实践》主题演讲,系统阐述了商汤大装置对AI原生时代算力集群建设的前沿判断与实践路径——如何将软硬件能力真正转化为客户可用、易用、高效的算力服务。
在他看来,当算力集群的发展进入AI原生时代,新的架构范式应具备统一的规范、极致弹性的扩缩容机制以及为大模型训练和推理深度优化的AI集群runtime。

01. AI算力池:面向角色、水平分层、资源自由流转
项铁尧从底层技术视角切入,指出Kubernetes(全球最流行的容器编排平台)正朝着AI方向发展。
随着动态资源分配(DRA)、Workload API与Gateway API三项核心新特性的引入,K8s逐渐从简单的容器编排工具,进化为AI时代的操作系统。这背后,其实是整个行业在加速从云原生集群时代向AI原生时代跃迁。
围绕上述转变过程,项铁尧重点介绍了商汤大装置前瞻打造的核心产品——AI算力池。
据了解,AI算力池面向AI原生时代全新算力服务需求,采用"三明治"水平分层架构,从底层高度优化的计算网络存储基础设施,到中间层全新的虚拟集群技术,再到上层涵盖开发机、训练平台、部署平台及Agentic Engine的完整PaaS产品体系,全面杜绝不同产品之间的资源孤岛问题。

其中,大装置AI算力池具备三大优势:
1)面向角色。面对客户内部角色多元、需求复杂的现实,分别设计服务形态、提供差异化的解决方案。比如针对集群管理员与平台工程师提供高弹性虚拟集群资源;针对AI研究员,可提供丰富的脚本工具与高效研发环境等等。
2)水平分层。AI算力池采用“三明治”结构,杜绝产品间信息、资源孤岛的可能。
3)资源自由流转。用户只需购买一种通用算力形态,即可在虚拟机、虚拟集群、AI Code Space开发机等不同产品形态之间秒级自由切换,充分应对国内普遍存在的算力潮汐效应,大幅提升集群整体资源利用率。
02虚拟集群:全量托管,秒级弹性扩缩容
值得一提的是,在底层Infra层,商汤大装置创新应用虚拟集群技术,解决了传统云托管服务中“数据面管理重、扩容慢”的痛点。
有别于主流云厂商仅托管控制面,数据面仍需用户自行管理的传统模式,全新的虚拟集群技术,实现了控制面与数据面的全量托管,扩缩容效率从传统方案的数分钟乃至数十分钟压缩至秒级,同时提供完全标准的K8s API,用户无需对现有代码做任何修改即可无缝接入。
03三大自研套件:护航超大规模AI训练与推理
在虚拟集群基础上,项铁尧进一步提出AI集群Runtime产品概念。
“要快速搭建一个离线混部、训练推理混合使用的集群非常复杂,因为现在AI新的技术层出不穷,各种组件之间协同优化同样复杂。”项铁尧指出,“为了解决这种难题,我们通过智能推荐、深度调优与版本锁定机制,帮助用户快速搭建复杂的在离线混部、训练推理混合使用集群,降低AI基础设施的使用门槛与运维复杂度。”
为了进一步满足超大规模AI生产场景的极致性能需求,商汤大装置还自研了三大套件:
1)SenseCore Scheduler:高性能调度器,支持复杂异构硬件的在离线混合调度。
2)容错引擎:解决超大规模训练中的不稳定性,实现故障自动检测与隔离。
3)Agentic Engine:针对不断涌现的Agent使用需求,进行深入优化,包括沙箱预热、快速启动、规划保持、状态快照等。
04虚拟节点:打通弹性算力最后一环
为了以更灵活的规格为客户提供算力资源,商汤大装置同步自研虚拟节点技术,它具备三大优势:
1)虚拟集群体系无缝集成;
2)提供相比于虚拟机更轻量级的使用体验以及更高效的性能;
3)提供相比于runc更好的安全性和隔离度。
05生态合作,共同助推国产推理基础设施迭代
演讲中,项铁尧还特别感谢九源智能计算系统生态联合体与生态伙伴趋境科技。
目前,商汤大装置已与趋境科技展开深度合作,为趋境科技自研的ATaaS高效能AI Token生产服务平台提供高性能、高可靠的算力支撑。
据了解,趋境ATaaS高效能AI Token生产服务平台可支撑万级别AI推理需求,并达到日均万亿级别Token整体产能。
在生态联盟层面,商汤大装置作为九源智能计算系统生态联合体理事单位,积极参与这一以"产学研用服"协同合作为核心模式的开放生态。
该联合体聚焦国产智能计算系统建设、软件生态统一与技术成果转化,致力于构建自主可控的智能计算产业生态。商汤大装置加入其中,希望以自身在AI基础设施领域的积累,为整个生态贡献实质性力量,推动AI能力真正走向普惠。
未来,商汤大装置将进一步联合生态伙伴,共同推动国产推理基础设施迭代升级,为我国人工智能产业高质量发展、新质生产力落地提供坚实支撑。
转载来源:商汤科技
相关攻略
商汤绝影发布可悠(Care U):从“陪你聊天”到“帮你做事”的家庭AI新成员 4月8日,商汤绝影旗下迎来了一位重磅“新成员”——AI智能硬件产品“可悠(Care U)”。这款产品的定位很有意思,它试图完成的,是一次从“陪你聊天”到“帮你做事”的实质性跨越。 那么,它是如何实现这一步跨越的呢?关键在
近日,作为2026中关村论坛核心组成部分,由趋境科技与九源智能计算系统生态联合体共同主办的“全栈智能 全域推理:Token爆发元年的全场景大规模推理服务”专题研讨会成功举办。商汤大装置首席架构师项铁
图片由AI生成当大模型的竞争焦点从参数竞赛转向落地实效比拼,真正将技术转化为生产力,成为了行业内玩家的核心命题。作为中国AI领域的先行者,商汤科技最新发布的2025年业绩报告,也是一份关于AI产品化
智东西作者|江宇编辑|漠影智东西3月26日报道,昨日,中国计算机学会(CCF)发布声明,强烈反对NeurIPS新增限制条款,并倡议中国学者暂停投稿与审稿。▲中国计算机学会发布声明强烈反对并发起抵制这
近日,商汤大装置联合大晓机器人与广西产业技术研究院达成战略合作,就AI基础设施建设、具身数据采集、世界模型研发、机器人应用场景拓展等领域达成深度合作,开启三方携手赋能具身智能产业发展的新篇章。此次战
热门专题
热门推荐
清明刮了坟头土,沥沥拉拉四十五。 这些流传已久的农谚,可不是随口说说的顺口溜,它们是千百年来农耕文明与自然对话的结晶,是写在时间里的“天气备忘录”。一句句简短的话语,背后藏着的是对节气、物候与农事活动之间精密联系的深刻洞察。 节气与农事 先看清明和谷雨这对“搭档”。老话说,“清明要晴,谷雨要淋”。清
人生伟业的建立,不在能知,乃在能行。 仔细想想,真正的阻碍往往并非来自外界,而是源于内心。任何的限制,其实都是从自己的内心开始的。 那么,我们该如何突破呢?不妨先从一个简单的行动开始:如果我们都去专注地做那些自己能做到的事情,最终的结果,往往会让自己大吃一惊。 行动固然重要,但人终究是社会性的存在。
亮晶晶的春雨 你听,那是什么声音?是欢快的打击乐,还是轻盈的舞步?原来,是一群天真烂漫的娃娃——亮晶晶的春雨,正在高空中云集。它们嬉戏着,咿咿呀呀地欢唱着,然后一股脑儿地、欢蹦乱跳地扑向大地母亲的怀抱。 这春雨,可不只是娃娃们的嬉闹。它绵绵不绝,细细密密,像极了巧手姑娘使用的花针与丝线。它们斜斜地交
母亲的爱是世间最伟大的爱,也是最珍贵的爱 母爱,常常藏匿于那些看似微不足道的日常琐碎里。它或许没有惊天动地的形式,却如涓涓细流,汇聚成永恒的生命之源。 该如何形容这种无处不在的守护呢?春天,她是拂面的和风,送来丝丝暖意;夏日,她是那口沁凉的冰淇淋,带来纯粹的快乐;秋时,她化作枝头那片悄然飘落的黄叶,
一列美人蕉 盛开着红色、黄色而带着黑斑的大朵的花,正伸张了大口,向着灿烂的春光微笑。远远望去,美人蕉的花簇像一团团燃烧得正旺的火焰,充满了生命力;凑近细看,每一朵又宛如小姑娘发间俏丽的红蝴蝶结,透着几分活泼与羞涩。至于它那宽大的叶子,则像极了一把把撑开的绿色芭蕉扇,在风中轻轻摇曳。 看着这些盛开的花





