近日,昆仑芯与北京智源人工智能研究院(以下简称“智源”)围绕面向多种AI硬件的一体化评测引擎FlagPerf完成阶段性适配。作为FlagPerf首批生态伙伴,双方将强强联合,共同推进AI软硬件评测体系建设,赋能大模型技术创新能力提升,加速我国AI生态繁荣发展。本文将从FlagPerf的功能、昆仑芯的技术贡献、合作成果以及常见问题等方面,带您全面了解这次合作背后的意义。
1. 什么是FlagPerf?
FlagPerf是由智源联合各大AI软硬件厂商共同建立的开源、开放、灵活、公正、客观的一体化评测引擎。它专门针对多种AI硬件设计,能够快速高效地对AI软硬件进行适配和评测,有效解决当前AI软硬件面临的三大挑战:
- 兼容性差:不同硬件之间适配困难
- 技术栈异构程度高:各厂家软硬件技术架构差异大
- 应用场景复杂多变:从CV、NLP到语音、大模型,需求各不相同
FlagPerf的核心能力
- 目前已经适配了涵盖CV(计算机视觉)、NLP(自然语言处理)、语音、大模型等领域的近20个经典模型。
- 支持对AI硬件的训练和推理能力进行全面评测。
- 未来将持续拓展支持的模型数量和评测领域,包括不限于AI服务器、图计算等各个场景,期望全面、立体地刻画厂商的软硬件实力。
小提示:开发者可以通过FlagPerf开源项目快速对比不同AI硬件的性能表现,从而选择最适合自己业务场景的硬件方案。
2. 昆仑芯的角色与贡献
作为AI加速领域的领军企业,昆仑芯在短时间内高效完成了十数个模型的适配和调优工作,并在FlagPerf项目中全面开源。这批模型能如此高效地完成适配,充分展现了昆仑芯优秀的泛化能力和软硬件兼容性。这主要得益于其100%自研的昆仑芯XACC AI编译器(XPU AI Compiler Collection)。
2.1 XACC AI编译器核心技术优势
- 自动迁移与性能优化:可自动帮助用户完成开源模型到XPU设备的迁移工作,并实现全自动性能优化,将XPU硬件算法发挥到极致。
- 零代码侵入、零环境侵入:用户无需修改模型代码,也无需修改部署环境,即可将模型迁移到XPU设备。
- 全面支持主流大模型框架:已全面支持Megatron、DeepSpeed等大模型训练框架,用户可以零成本适配最流行的LLM技术与模型。
重点注意:XACC编译器的“零代码侵入”特性意味着开发者不需要额外学习新框架或改动现有代码,极大降低了迁移门槛。
2.2 已适配的典型模型(部分)
昆仑芯在FlagPerf中已经适配并开源的模型包括但不限于:
- 语言大模型:悟道·天鹰(Aquila)
- 视觉大模型:悟道·视界EVA-CLIP
- 其他CV、NLP、语音模型(具体数量正在持续增加)
小提示:如果需要查看最新适配模型列表,可以访问FlagPerf开源仓库或昆仑芯官方文档。
3. 智源与昆仑芯的合作成果
3.1 智源背景与FlagOpen生态
智源研究院是国际知名的人工智能前沿研究机构,在中国最早引领开展大模型研究,并率先倡导建设大模型开源生态。「悟道」人工智能大模型项目连创“中国首个+世界最大”纪录,“悟道3.0”已进入全面开源阶段。FlagOpen大模型技术开源体系由智源联合多家企业、高校和科研机构共建,旨在共建共享大模型时代的“新Linux”开源开放生态。而FlagPerf正是FlagOpen的重要组成部分。
3.2 具体适配成果
- 昆仑芯已在悟道·天鹰(Aquila)语言大模型上完成了大规模推理性能验证。
- 在悟道·视界EVA-CLIP视觉大模型上也实现了适配。
3.3 生态共建里程碑
此前,昆仑芯已正式加入智源FlagOpen大模型技术开源体系,并与多家顶尖硬件企业、高校科研团队共同建设“北京国家新一代人工智能创新发展试验区AI开放生态实验室”,加速完善芯片软件生态建设。此次FlagPerf适配是双方生态共建的又一重要里程碑。
未来,双方将充分发挥各自优势,携手产业链上下游合作伙伴,帮助企业更好地应对大模型应用时面临的算力不足、场景不够开放等问题,进一步推动我国大模型的技术研发和应用落地。
4. 关于昆仑芯
昆仑芯前身为百度智能芯片及架构部,于2021年4月完成独立融资,首轮估值约130亿元。核心团队在国内最早布局AI加速领域,深耕十余年,是一家在体系结构、芯片实现、软件系统和场景应用均有深厚积累的AI芯片企业。
- 使命:“让计算更智能”
- 产品:专注打造拥有强大通用性、易用性和高性能的通用AI芯片。
- 落地情况:已实现两代通用AI芯片系列产品的量产及落地应用,在互联网、智慧工业、智慧交通、智慧金融等领域均有规模部署,帮助企业加速产业智能化布局,将AI算力赋能千行百业。
小提示:如果企业需要部署AI推理或训练场景,可以关注昆仑芯的芯片产品及XACC编译器,以降低迁移成本。
5. 常见问题(FAQ)
Q1:FlagPerf评测引擎能评测哪些硬件?
FlagPerf支持多种AI硬件,包括GPU、NPU、FPGA等不同类型的翻跟斗。具体支持的硬件列表会随着生态伙伴的加入不断扩充,目前昆仑芯的XPU设备已完成适配。
Q2:XACC编译器需要用户自己编写优化代码吗?
不需要。XACC编译器实现全自动性能优化,用户只需提供标准模型代码(如PyTorch、Megatron等框架),编译器会自动完成迁移和调优,无需手动编写优化代码。
Q3:普通开发者如何参与FlagPerf生态?
FlagPerf是开源项目,开发者可以访问其GitHub仓库(具体地址可搜索“FlagPerf”获取),下载代码,按照文档说明进行模型适配或性能评测。同时也可以提交Issue或PR贡献自己的评测结果。
Q4:昆仑芯适配的模型是否需要额外付费?
不需要。昆仑芯在FlagPerf中开源的模型适配代码完全免费,遵循开源协议,开发者可以直接使用。
Q5:如果我想在昆仑芯XPU上运行自己的大模型,该怎么做?
首先确保你的模型基于主流深度学习框架(如PyTorch、TensorFlow),然后利用XACC编译器提供的工具链进行迁移。具体流程可参考昆仑芯官方技术文档,或联系其技术支持团队。
6. 总结
通过此次合作,昆仑芯与智源共同构建了更开放、更高效的AI软硬件评测体系。对于AI开发者、硬件厂商以及企业用户来说,FlagPerf评测引擎和XACC编译器降低了模型迁移的门槛,加速了大模型技术的落地。未来,双方将继续携手,推动AI生态的繁荣发展。
重要提醒:所有技术细节(如编译器版本、模型列表等)请以官方最新发布的信息为准。
