游乐游手机版
首页/科技数码/文章详情

英特尔优化多显卡AI推理,Battlematrix性能提升达80%

时间:2025-08-14 21:37
8 月 12 日消息,科技媒体 WccfTech 昨日(8 月 11 日)发布博文,报道称英特尔为其锐炫 Pro 系列 GPU 的 Battlematrix 项目,发布首个重磅软件更新 LLM S

8 月 12 日,科技媒体 WccfTech 发布消息称,英特尔为其锐炫 Pro 系列 GPU 的 Battlematrix 项目推出了首个重要软件更新——LLM Scaler v1.0,新版本在 AI 推理能力方面做出了显著优化。

回顾今年 5 月,英特尔在 COMPUTEX 2025 台北国际电脑展上不仅发布了锐炫 Arc Pro B50 与 B60 显卡,还推出了 Project Battlematrix 推理工作站平台。该平台最高可搭载八张锐炫 Pro 显卡,并配备完整软件包,能够支持运行参数规模达 150B 的中等体量、高精度 AI 模型。

Battlematrix 平台结合了定制化硬件与专用软件栈,旨在优化推理性能与企业部署效率。其中的 LLM Scaler,是基于 vLLM 框架开发的大模型推理容器,可扩展至多 GPU、支持长序列高效推理并兼容多模态任务。

\

LLM Scaler v1.0 着重改进了 vLLM 推理框架的性能表现。针对 32B 参数模型,在 40K 序列长度下性能提升约 1.8 倍;70B 参数模型则在同一条件下实现高达 4.2 倍的性能增幅。对于 8B 至 32B 范围的模型,输出吞吐量相比上一版本提升了约 10%。

该版本还引入了分层在线量化技术,有效降低了显存占用,并支持管道并行、数据并行、多模态模型嵌入及重排序等功能,进一步提升了模型的灵活性和扩展性。

为了满足企业级运维需求,LLM Scaler v1.0 集成了 XPU Manager 工具,能够实现对 GPU 电源管理、固件升级、设备诊断及显存带宽检测等功能的全面支持。

新容器运行于 Linux 平台,充分发挥多 GPU 扩展与 PCIe 点对点传输的优势,整体性能最高提升 80%。同时,系统还支持 ECC 纠错、SRIOV 虚拟化、遥测数据收集与远程固件更新,保障了其在企业环境中部署的可靠性与可控性。

\

英特尔指出,其新软件栈兼容行业标准与主流开发流程,并通过集成 OneCCL 基准测试工具,方便开发者进行模型调优与性能评估。这将进一步增强 Battlematrix 平台在 AI 生态中的竞争力。

按照英特尔的产品路线图,本季度还将推出更稳定的容器版本,持续提升 vLLM 的服务能力。预计到四季度,Battlematrix 项目将实现全功能版本的正式落地,为专业领域用户带来更高效、更易用的大模型推理解决方案。

来源:https://www.ithome.com/0/874/747.htm
上一篇8月11日科学快讯:智能凝胶助力糖尿病伤口愈合提速100% 下一篇成都发放千万旅游消费券,11月30日前可预订酒店住宿
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
年国家能源局充换电服务业用电量增速48.8%
科技数码 · 2026-06-29

年国家能源局充换电服务业用电量增速48.8%

2025年全社会用电量达103682亿千瓦时,同比增长5 0%。充换电服务业用电增速高达48 8%,信息传输与软件服务业增速17 0%。第三产业和居民用电对增长贡献率合计占一半。中国成为全球首个年度用电量超10 4万亿千瓦时的国家。

追风者 GLACIER ONE 360 S25 液冷散热器新品上市 联体风扇售价429元
科技数码 · 2026-06-29

追风者 GLACIER ONE 360 S25 液冷散热器新品上市 联体风扇售价429元

追风者冰川360S25液冷散热器售价429元,三联一体风扇便捷安装,冷头小体积纯铜底座噪音18dB,风扇转速300-2000RPM、风量75CFM、静压2 96mmAq,五年质保漏液包赔。

三星Galaxy Watch8用户反馈谷歌后台组件异常
科技数码 · 2026-06-29

三星Galaxy Watch8用户反馈谷歌后台组件异常

三星GalaxyWatch8、Watch5Pro、Watch6及Watch7用户反映,GooglePlayServices后台耗电异常,电量占比最高达99 97%,远超正常水平,严重影响续航。目前故障原因不明,谷歌尚未发布官方声明。

罗永浩批苹果iOS 27创新不足 盼新CEO改进
科技数码 · 2026-06-29

罗永浩批苹果iOS 27创新不足 盼新CEO改进

罗永浩批评苹果iOS27创新不足,称仅有双iPhone同号、音量分离等数十项细节改进,认为库克时代缺乏突破性创新,股市虽好但消费者只能被迫接受挤牙膏式升级。

年国产车出口710万辆,两家车企销量破百万
科技数码 · 2026-06-29

年国产车出口710万辆,两家车企销量破百万

2025年国产汽车出口总量达710万辆,同比增长21%。奇瑞以134万辆居首,比亚迪105万辆次之,上汽乘用车出口占比60%最高,长城出口51万辆。吉利、长安等主流品牌同步增长,小鹏、零跑等新兴品牌海外拓展加速。