AI原生时代来临，商汤大装置如何重塑算力集群架构
近日，作为2026中关村论坛核心组成部分，由趋境科技与九源智能计算系统生态联合体共同主办的“全栈智能 全域推理：Token爆发元年的全场景大规模推理服务”专题研讨会成功举办。
商汤大装置首席架构师项铁尧受邀出席研讨会，并发表《商汤大装置AI原生云基础设施探索与实践》主题演讲，系统阐述了商汤大装置对AI原生时代算力集群建设的前沿判断与实践路径——如何将软硬件能力真正转化为客户可用、易用、高效的算力服务。
在他看来，当算力集群的发展进入AI原生时代，新的架构范式应具备统一的规范、极致弹性的扩缩容机制以及为大模型训练和推理深度优化的AI集群runtime。
01. AI算力池：面向角色、水平分层、资源自由流转
项铁尧从底层技术视角切入，指出Kubernetes（全球最流行的容器编排平台）正朝着AI方向发展。
随着动态资源分配（DRA）、Workload API与Gateway API三项核心新特性的引入，K8s逐渐从简单的容器编排工具，进化为AI时代的操作系统。这背后，其实是整个行业在加速从云原生集群时代向AI原生时代跃迁。
围绕上述转变过程，项铁尧重点介绍了商汤大装置前瞻打造的核心产品——AI算力池。
据了解，AI算力池面向AI原生时代全新算力服务需求，采用"三明治"水平分层架构，从底层高度优化的计算网络存储基础设施，到中间层全新的虚拟集群技术，再到上层涵盖开发机、训练平台、部署平台及Agentic Engine的完整PaaS产品体系，全面杜绝不同产品之间的资源孤岛问题。
其中，大装置AI算力池具备三大优势：
1）面向角色。面对客户内部角色多元、需求复杂的现实，分别设计服务形态、提供差异化的解决方案。比如针对集群管理员与平台工程师提供高弹性虚拟集群资源；针对AI研究员，可提供丰富的脚本工具与高效研发环境等等。
2）水平分层。AI算力池采用“三明治”结构，杜绝产品间信息、资源孤岛的可能。
3）资源自由流转。用户只需购买一种通用算力形态，即可在虚拟机、虚拟集群、AI Code Space开发机等不同产品形态之间秒级自由切换，充分应对国内普遍存在的算力潮汐效应，大幅提升集群整体资源利用率。
02虚拟集群：全量托管，秒级弹性扩缩容
值得一提的是，在底层Infra层，商汤大装置创新应用虚拟集群技术，解决了传统云托管服务中“数据面管理重、扩容慢”的痛点。
有别于主流云厂商仅托管控制面，数据面仍需用户自行管理的传统模式，全新的虚拟集群技术，实现了控制面与数据面的全量托管，扩缩容效率从传统方案的数分钟乃至数十分钟压缩至秒级，同时提供完全标准的K8s API，用户无需对现有代码做任何修改即可无缝接入。
03三大自研套件：护航超大规模AI训练与推理
在虚拟集群基础上，项铁尧进一步提出AI集群Runtime产品概念。
“要快速搭建一个离线混部、训练推理混合使用的集群非常复杂，因为现在AI新的技术层出不穷，各种组件之间协同优化同样复杂。”项铁尧指出，“为了解决这种难题，我们通过智能推荐、深度调优与版本锁定机制，帮助用户快速搭建复杂的在离线混部、训练推理混合使用集群，降低AI基础设施的使用门槛与运维复杂度。”
为了进一步满足超大规模AI生产场景的极致性能需求，商汤大装置还自研了三大套件：
1）SenseCore Scheduler：高性能调度器，支持复杂异构硬件的在离线混合调度。
2）容错引擎：解决超大规模训练中的不稳定性，实现故障自动检测与隔离。
3）Agentic Engine：针对不断涌现的Agent使用需求，进行深入优化，包括沙箱预热、快速启动、规划保持、状态快照等。
04虚拟节点：打通弹性算力最后一环
为了以更灵活的规格为客户提供算力资源，商汤大装置同步自研虚拟节点技术，它具备三大优势：
1）虚拟集群体系无缝集成；
2）提供相比于虚拟机更轻量级的使用体验以及更高效的性能；
3）提供相比于runc更好的安全性和隔离度。
05生态合作，共同助推国产推理基础设施迭代
演讲中，项铁尧还特别感谢九源智能计算系统生态联合体与生态伙伴趋境科技。
目前，商汤大装置已与趋境科技展开深度合作，为趋境科技自研的ATaaS高效能AI Token生产服务平台提供高性能、高可靠的算力支撑。
据了解，趋境ATaaS高效能AI Token生产服务平台可支撑万级别AI推理需求，并达到日均万亿级别Token整体产能。
在生态联盟层面，商汤大装置作为九源智能计算系统生态联合体理事单位，积极参与这一以"产学研用服"协同合作为核心模式的开放生态。
该联合体聚焦国产智能计算系统建设、软件生态统一与技术成果转化，致力于构建自主可控的智能计算产业生态。商汤大装置加入其中，希望以自身在AI基础设施领域的积累，为整个生态贡献实质性力量，推动AI能力真正走向普惠。
未来，商汤大装置将进一步联合生态伙伴，共同推动国产推理基础设施迭代升级，为我国人工智能产业高质量发展、新质生产力落地提供坚实支撑。
转载来源：商汤科技
相关攻略
商汤科技杨帆指出，AI正从算力时代迈向智能时代，核心拐点是人机协作转向AI主动协作。算力市场结构反转，推理负载超越训练，竞争进入Token性价比分层时代。商汤大装置正向“智能精炼厂”进化，通过端到端体系将原始算力转化为高价值Token，助力企业高效拥抱智能变革。
当GPT-4o等模型再次成为焦点，业界的关注点也在悄然转变：仅仅“画得好”已经不够了，大家更渴望的是“速度快、效率高、成本低”。 过去很长一段时间里，视觉理解与图像生成，通常被视为两套独立的系统：一个负责“看懂”世界，另一个负责“画出”世界，两者之间需要通过复杂的模块进行衔接。这种底层逻辑上的割裂，
上海人工智能实验室联合多家机构发起国产软硬件适配验证计划，致力于打造覆盖AI全流程的验证平台与自主生态社区。该平台旨在解决国产算力与应用协同难题，构建从芯片到应用的全链路验证体系，支持多种软硬件适配，推动国产AI技术向“好用、易用”发展。商汤科技依托AI大装置深度参与，已。
商汤大装置、大晓机器人与广西产业技术研究院达成战略合作，共同构建“算力—数据—模型—场景”四位一体的产业闭环。三方将依托“广西—东盟具身智能中试训练场”，在算力调度、数据集建设及机器人应用规模化落地等方面协同发力，旨在推动广西具身智能产业升级，并将影响力辐射至东盟区域。
商汤大装置SenseCore平台获工信部软件供应链安全能力最高等级认证，成为全国首批达标企业。该评估依据国家标准，旨在应对软件供应链安全风险。作为新一代AI基础设施，商汤大装置构建了从算力到服务的端到端能力，其上海临港智算中心算力规模领先。此次认证标志其安全可信的算力底座达到。
热门专题
热门推荐
人工智能正改变表格合并方式，大幅提升数据处理效率。例如，某电商平台借助AI将处理时间从48小时缩短至2小时，并减少人工错误。调查显示，超七成企业已部署AI工具且效率显著提升。AI不仅节约成本，还推动决策更科学。未来需在效率与数据安全间寻求平衡。
在数据爆炸时代，AI正为传统表格处理带来变革。通过自动生成图表、快速分析趋势等功能，AI显著提升了数据处理效率。然而，数据安全与隐私风险仍是企业关注的核心挑战。未来，表格将趋向智能化与自适应，成为更高效、用户友好的分析工具，为企业创造新的机遇。
AI技术正深度改变表格处理领域，通过自动化数据整理、智能预测分析和增强实时协作显著提升效率。然而，数据隐私安全与算法“黑箱”问题仍是主要挑战。企业需优先考虑数据保护与算法透明度，未来结合自然语言处理的新一代工具将进一步简化表格工作，带来更多可能性。
AI工具显著提升了表格制作效率与数据呈现效果。它能通过自然语言生成框架、自动分析趋势，将原本耗时的手工流程大幅压缩。不同工具各有侧重，需结合实际需求选择。未来，AI将与深度分析更紧密结合，实现智能洞察输出。主动拥抱技术革新，才能提升数据竞争力。
人工智能正革新表格处理，通过OCR与自然语言技术自动识别提取数据，大幅提升录入效率。实践显示，AI在订单处理等重复任务中效果显著，减轻人力负担。未来需兼顾数据安全与工具易用性，推动人机协同——AI负责规则性工作，人类聚焦创造性决策。