2021年12月12日,上海——在Wa ve Summit+大会上,百度深度学习平台飞桨正式宣布,其已在Graphcore IPU上完成训练和推理全流程支持的开源代码库发布。飞桨模型库中的经典模型,例如Bert、ERNIE等,也正在逐步迁移至IPU。这意味着什么?对飞桨开发者而言,从此可以在IPU这一为机器智能从零设计的创新架构上,加速AI模型的运行;而对IPU的全球用户来说,他们也能借助飞桨更深入地探索深度学习。对于Graphcore,最直接的影响是:IPU中文社区将迎来一次显著扩容,整个中文生态也因此更加繁荣。

飞桨在国内产业级深度学习平台中的地位毋庸置疑,目前累计开发者数量已超过406万,服务企业15.7万家,创建的模型超过47.6万个,对中国AI社区的贡献有目共睹。Graphcore是飞桨硬件生态圈的初始成员之一,作为重要合作伙伴,他们期望通过云端和数据中心的IPU技术,帮助飞桨开发者将AI模型运行得更快,同时为使用飞桨的企业提供基于IPU的产品方案,提升数据中心效率。简而言之,就是让模型性能更高、运行速度更快,从而缩短研发周期、加速AI应用落地,并有效降低计算成本。
目前,Graphcore IPU已能支持通过飞桨完成大规模的模型训练任务,同时也支持通过飞桨推理库进行高性能推理。双方团队在由16个IPU组成的IPU-POD16上,完成了数据并行和模型并行,并在Bert-Base模型上验证了精度和吞吐量,结果令人满意。从数据来看,运行在IPU硬件上的飞桨方案,无论是主流的AI训练任务还是前沿的创新模型,都能带来显著的加速效果。此外,IPU的系统扩展性极好,用户完全可以根据任务需求灵活调整性能配置。
百度飞桨产品团队负责人赵乔对此评价道:“Graphcore是飞桨的老朋友和重要伙伴,很高兴能宣布我们在IPU上完成了训练和推理的支持,这对飞桨硬件生态来说是一次重要升级。飞桨模型库中的模型,比如Bert,已在IPU上实现了不错的训练和推理性能。同时,Graphcore的深度学习引擎PopART可用性很高,也让我们在IPU上的适配工作变得相对简单。接下来,我们将与Graphcore深化合作,把飞桨模型库中更多模型迁移到IPU上,共同打造世界级的AI解决方案,赋能广大开发者和企业。”
随着Graphcore在中国持续深耕,其IPU中文社区和生态系统正在不断扩大。这次引入飞桨,不仅是对Poplar SDK的重要扩充,也为Graphcore的客户,尤其是中国客户,在工具箱中多加了一件趁手的工具。通过支持飞桨,Graphcore能让客户在更多框架上自由探索,IPU硬件架构的潜能优势也将得到进一步释放。
Graphcore中国工程总负责人、AI算法科学家金琛则表示:“IPU对百度飞桨的支持,是Poplar SDK的重要升级,也是IPU生态系统的一次重大更新。飞桨是中文AI社区中的领军者,通过合作,我们希望扩大IPU中文社区,让更多中国开发者能够打破传统硬件的局限,在IPU上实现创新突破,解决那些棘手的深度学习难题。”

Graphcore中国工程总负责人、AI算法科学家金琛在2021 Wa ve Summit+上介绍IPU上的百度飞桨
百度飞桨和Graphcore IPU有一个相通之处,那就是开源精神——将权力交给AI开发人员,让他们能够自由创新。Graphcore从硬件制造到软件开发,都遵循这一宗旨。飞桨在IPU上相关的代码和模型代码资源,已在Graphcore GitHub和百度飞桨 GitHub上开源,双方的GitHub以及Graphcore官网开发者页面也附上了详细教程。同时,基于飞桨的Bert-Base也已在Graphcore的Model Garden中开源。各位开发者可随时前往双方的资源池进行探索、调取和使用。
