游乐游手机版
首页/科技数码/文章详情

华为突破单卡瓶颈:AI新技术让硬件同时处理多个工作负载

时间:2025-11-21 16:49
11月21日消息,据媒体报道,华为今日正式发布Flex:ai AI容器软件。该产品的核心突破在于运用算力切分技术,可将单张GPU NPU算力卡精细切分为多个虚拟算力单元,最小粒度精准至10%。这一创

11月21日,据媒体报道,华为今日正式发布Flex:ai+AI容器软件。这项产品的核心突破在于运用算力切分技术,可将单张GPU/NPU算力卡精细切分为多个虚拟算力单元,最小粒度精准至10%。

这项创新让单张算力卡得以同时承载多个AI工作负载,显著提升了硬件资源利用率。

与此同时,Flex:ai能够高效汇聚集群内各计算节点的闲置XPU算力,形成统一的"共享算力池",实现算力资源的全局调度与灵活分配。

其核心技术原理是一套深度融合软硬件的系统工程,覆盖从底层芯片到顶层调度。通过创新性的软件技术深度挖掘硬件潜力,Flex:ai成功将GPU/NPU的典型利用率从30%-40%提升至70%,有效践行了"以软件补硬件"的理念。

在硬件协同方面,Flex:ai深度整合华为自研的昇腾AI处理器,通过软硬件协同设计优化,实现了最佳的性能功耗比。

特别在大模型训练场景中,Flex:ai通过软件层面的创新,实现了对包括英伟达GPU、昇腾NPU在内的多种异构算力资源的统一管理与调度,有效解决了当前大模型训练面临的算力效率瓶颈问题。

据悉,Flex:ai将在发布后同步开源至魔方社区,以促进技术共享与生态发展。

华为发布AI新技术:实现单卡同时承载多个AI工作负载

来源:https://m.mydrivers.com/newsview/1087957.html
上一篇2025院士增选揭晓:比亚迪、宁德时代各入选一位汽车专家 下一篇尊界M800明年上市:延续S800设计,60万起的高端SUV
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
LiblibAI云端WebUI降低AI绘画部署门槛
科技数码 · 2026-07-02

LiblibAI云端WebUI降低AI绘画部署门槛

LiblibAI在线WebUI的核心优势在于——只需通过浏览器即可流畅运行Stable Diffusion,无需自行搭建本地环境。云端直接处理运算,模型即选即试,大幅降低了AI绘画的创作门槛。对于轻量创作和模型快速测试来说,体验相当顺畅,但用户仍需重视数据隐私保护和版权合规等问题。 过去使用Stab

微软因用户不安叫停Edge浏览器AI历史搜索功能
科技数码 · 2026-07-02

微软因用户不安叫停Edge浏览器AI历史搜索功能

微软紧急暂停Edge浏览器AI历史搜索功能,该功能因被用户吐槽“令人不安”而暂缓部署。尽管微软强调所有AI处理在设备端完成且数据不上传云端,但用户仍不信任。此举与WindowsK2计划减少功能堆砌的理念一致。

红魔游戏平板5 Pro发布 4999元起售将登陆全球市场
科技数码 · 2026-07-02

红魔游戏平板5 Pro发布 4999元起售将登陆全球市场

【CNMO科技消息】近日,红魔游戏平板5 Pro正式发布。这款平板从定位上就明确瞄准“极致游戏”体验,外观方面带来了一个重磅亮点——首次引入RGB水冷散热系统,背部那条可视化的水路通道,配合纯平透明背板设计,核心配置信息一览无余,科技感十足。 图源网络 屏幕方面同样表现突出。一块9 06英寸OLED

杭州全国首所机器人学校首批30台机器人入学
科技数码 · 2026-07-02

杭州全国首所机器人学校首批30台机器人入学

30台机器人整齐列队,有的刚从生产线卸下,机械零件还带着崭新的“工业气息”;有的已搭载运动控制模块,能稳健地小跑、跳跃几下。它们来自不同制造工厂,外形与功能各有千秋,但此刻都拥有了同一个身份——杭州机器人学校的第一批入学新生。 6月30日,杭州经信正式发布:由浙江大学机器人研究院、浙江省质量科学研究

美国计划发射航天器托举天文卫星
科技数码 · 2026-07-02

美国计划发射航天器托举天文卫星

就在最近,NASA公布了一项非常果断的干预计划——他们定于6月30日实施一次“卫星维修任务”,派遣一台名为“连接”号的机器人服务卫星,为一颗超期服役的天文卫星延长运行寿命。这颗卫星是“尼尔·格雷尔斯·斯威夫特天文台”,其轨道高度正在不断衰减,如果不进行干预,今年年底前很可能会坠入地球大气层并烧毁。