10月27日最新消息,高通公司今日正式发布了其新一代数据中心AI推理优化方案,该方案基于高通AI200和AI250芯片的加速卡与机架系统。
高通AI200推出了一款专为机架级AI推理设计的解决方案,旨在实现更低的总拥有成本和更优的性能表现,适用于大型语言模型、多模态模型以及其他AI工作负载的处理需求。每张加速卡支持高达768GB的LPDDR内存,大幅提升了内存容量并显著降低了运营成本。
高通AI250解决方案将采用创新的近内存计算架构,通过提供超过10倍的内存带宽提升和更低的功耗,为AI推理工作负载带来更出色的效率与性能表现。
这两款机架解决方案均采用直接液冷技术以提升散热效率,支持PCIe扩展、以太网扩展和机密计算功能,确保AI工作负载的安全性,并支持高达160kW的机架级功耗配置。
高通AI200和AI250预计将分别于2026年和2027年实现商用落地。截至发稿时,高通公司股价已大幅上涨20%。
