AI计算领域迎来关键突破。Graphcore今日正式发布新一代IPU系统——Bow系列。该系列最大亮点在于搭载了全球首款采用3D Wafer-on-Wafer技术的处理器——Bow IPU。相较于上一代,其在真实AI应用场景中可实现最高40%的性能跃升,同时电源效率提升16%。更值得关注的是,价格保持不变,且现有代码无需任何修改即可直接运行。顺便一提,Bow这个名字源自伦敦的一处地名。

Bow IPU处理器

Bow-2000 计算刀片
除了眼前的Bow系列,Graphcore还宣布了一项更宏伟的计划——将于2024年交付全球首台超级智能计算机Good™ Computer。这台计算机的配置极为激进:基于新一代IPU技术,可提供超过10 Exa-Flops的AI浮点算力;最高支持4PB存储,带宽超过10PB/秒;并能够承载超过500万亿参数的AI模型。根据配置不同,其价格区间在100万美元至1.5亿美元之间。至于命名“Good”,一方面寓意打造一台名副其实的优秀计算机,另一方面也是为了致敬计算机科学先驱Jack Good。
Graphcore大中华区总裁兼全球首席营收官卢涛直言:“AI计算市场发展迅猛,客户不仅关注性能,更看重效率与可靠性。新一代IPU旨在让全球开发者和创新者在AI计算领域实现真正突破。我们致力于持续拓展IPU在中国的应用场景,通过高效AI计算,助力中国创新者不断突破机器智能的边界。”
Bow Pod的卓越性能
旗舰产品Bow Pod256可提供超过89 PetaFLOPS的AI算力,而超大规模Bow Pod1024更是达到350 PetaFLOPS。这意味着,在AI模型规模呈指数级增长的当下,这套系统能让机器学习工程师始终抢占先机,攻克机器智能领域的下一个难题。
Bow Pod的设计初衷,是为各类AI应用提供大规模的真实世界性能——涵盖自然语言处理(如GPT、BERT)、计算机视觉(如EfficientNet、ResNet)以及图神经网络等多个领域。在与上一代Mk2 IPU-Pod系统相同的峰值功耗下,客户实测发现,各类AI应用的实际性能提升高达40%。

以最前沿的计算机视觉模型EfficientNet为例,一台Bow Pod16的性能比同级Nvidia DGX A100系统高出5倍以上,而价格仅为后者的一半。这样算下来,总体拥有成本提升了整整10倍。

除了40%的性能提升,Bow Pod系统在电源效率方面同样表现突出。经过一系列实际应用测试,每瓦性能最高提升了16%。

Wafer-on-Wafer创新技术
这一切突破,源于Bow Pod系统核心的Bow IPU处理器。它采用全球首创的3D半导体技术,实现了性能的巨大飞跃和更高的电源效率。这项Wafer-on-Wafer 3D技术由Graphcore与台积电合作开发,其潜力在于:在硅片之间提供更高带宽,同时优化电源效率,从晶圆层面全面提升Colossus架构的功率表现。
具体来说,Bow IPU中的Wafer-on-Wafer技术将两个晶圆结合,形成一个全新的3D裸片。其中一个晶圆负责AI处理,架构上与GC200 IPU处理器兼容,拥有1472个独立的IPU-Core tile,可同时运行超过8800个线程,并自带900MB的片上存储;第二个晶圆专门负责供电。通过在供电裸片中嵌入深沟槽电容器,紧邻处理内核和存储,供电效率大幅提升,最终实现了350 TeraFLOPS的AI算力和40%的性能增长。与台积电的密切合作,也让整套技术——包括背面硅通孔和Wafer-on-Wafer混合键合——得到了充分验证。
作为Bow Pod系统的核心组件,最新Bow-2000 IPU Machine沿用了第二代IPU-M2000稳健的系统架构,但内部集成了四个强大的Bow IPU处理器,使单台Machine即可提供1.4 PetaFLOPS的AI算力。它完全向后兼容现有的IPU-POD系统,高速低时延的IPU结构以及灵活的1U外形尺寸均未改变。Bow-2000可安装在戴尔、Atos、Supermicro、浪潮、联想等主流品牌的服务器上,灵活组合出整个Bow Pod系列:从4台Bow-2000加一台主机的Bow Pod16,8台Bow-2000加一台主机的Bow Pod32,再到更大的Bow Pod64,以及旗舰级Bow Pod256和Bow Pod1024。

最新Bow Pod系统现已上市,并开始在全球范围内发货。
