高通技术公司最新发布了两款专为数据中心场景打造的AI推理芯片——Qualcomm AI200与AI250,这标志着其在人工智能硬件领域的战略布局迈入了全新阶段。两款产品分别以加速卡和机架系统形态交付,重点针对大语言模型及多模态模型的推理性能优化,旨在满足数据中心对高算力与低延迟的严苛要求。
Qualcomm AI200的突出优势在于单张加速卡即可支持768GB LPDDR内存,采用机架级整体架构设计。该方案通过扩大内存容量并优化成本结构,试图在扩展性与部署灵活性之间找到理想平衡点。而AI250则率先引入近存计算技术,实测数据显示其有效内存带宽提升超过10倍,同时显著降低运行功耗,为高密度计算场景带来更高效的解决方案。
在散热与扩展能力方面,两款机架系统均支持直接液冷技术,并具备PCIe纵向扩展与以太网横向扩展功能。整机架功耗控制在160千瓦以内,同时集成机密计算模块,确保数据中心在处理敏感工作负载时的数据安全性。这些设计使得产品能够适应不同规模的数据中心部署需求。
高通技术公司高级副总裁马德嘉(Durga Malladi)在发布会上强调,这两款产品重新定义了机架级AI推理的性能边界。其软件栈覆盖从应用层到系统层的完整技术体系,兼容主流机器学习框架和推理引擎。开发者可通过高通的高效Transformer库及Qualcomm AI Inference Suite快速接入模型,并支持Hugging Face模型的一键部署,大幅简化开发流程。
AI250采用的解耦式AI推理架构成为另一大技术亮点。该架构通过分离计算与存储资源,显著提升硬件利用率,直击当前数据中心AI部署中资源浪费的痛点。这一设计理念与行业对高效能计算的追求高度契合,为数据中心运营方提供了更具成本效益的选择。
商用计划方面,Qualcomm AI200预计将于2026年投入市场,AI250则定于2027年发布。高通透露,未来将按年度迭代节奏持续更新数据中心产品线,不断优化AI推理性能、能效比及总体拥有成本,以应对持续增长的市场需求。
