首页 游戏 软件 资讯 排行榜 专题
首页
AI
华为与中科宏云联合发布AI推理加速方案,适配主流算力芯片

华为与中科宏云联合发布AI推理加速方案,适配主流算力芯片

热心网友
18
转载
2025-12-23

12月23日,华为数据存储与中科弘云联合发布了一项全新的AI推理加速解决方案。

免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈

这一方案以华为OceanStor A系列存储设备为数据底座,结合中科弘云智算互联网云服务平台HyperCN,显著提升了长序列推理任务的运行体验。

华为数据存储、中科弘云发布 AI 推理加速联合解决方案,适配英伟达、昇腾、寒武纪等算力

该方案深度融合了华为OceanStor A系列存储、华为UCM推理记忆数据管理技术以及中科弘云HyperCN平台的强大能力。通过KV Cache多级缓存管理、秒级算力调度、分钟级推理大模型部署及全流程AI工具链,能够将智能算力高效输送至业务一线。该联合方案的核心优势具体体现在以下几个层面:

异构管理:支持平台、计算与存储的协同联动,完美适配英伟达、华为昇腾、寒武纪等多元AI算力,兼容MindSpore / vLLM/SGLang等主流框架,并通过Kubernetes与华为OceanStor A系列存储实现无缝对接。

算力调度:对算力资源进行细粒度切分与池化处理,能够按需灵活调度,最大化提升资源利用率;具备集群作业调度、运维监控、故障恢复等功能,支持分钟级任务恢复与系统健康监测。

推理加速:依托华为UCM技术,将KV Cache持久化至华为OceanStor A系列存储,实现推理记忆的全量保存,有效减少重复计算;此外,融合Prefix Cache、GSA稀疏加速等算法,显著降低首Token时延(TTFT),使长序列推理的吞吐与体验获得倍数级提升。

端到端AI工具链:覆盖数据管理标注、算法开发、大小模型训练推理、智能体开发等全流程,支持传统机器学习与深度学习开发,实现AI资产的统一建设与集中管理。

经实际测试,在智能问答的典型推理场景中,该方案实现了首Token时延(TTFT)降低57.5%,且序列长度越长,优化效果越显著;在长文档推理场景中,结合GSA稀疏加速算法,当序列长度为39K时,并发能力提升86%,推理吞吐提升36%,在提升推理效率与体验方面成效明显。

从合作公告获悉,该联合方案目前已在能源电力、智能制造、国家实验室等关键行业启动试点应用。

来源:https://www.ithome.com/0/907/340.htm
免责声明: 游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

最新APP

火柴人传奇
火柴人传奇
动作冒险 04-01
街球艺术
街球艺术
体育竞技 04-01
飞行员模拟
飞行员模拟
休闲益智 04-01
史莱姆农场
史莱姆农场
休闲益智 04-01
绝区零
绝区零
角色扮演 04-01

热门推荐

洛克王国世界40级进阶无推图阵容打法
手机教程
洛克王国世界40级进阶无推图阵容打法

洛克王国世界40级进阶无推图阵容打法攻略 在《洛克王国世界》的成长之旅中,达到40级是一个关键的进阶门槛。许多玩家可能会发现自己并未刻意组建一支成型的推图队伍,面对这个挑战时有些无从下手。这篇攻略将为你详细解析一套无需专门推图阵容的通关思路,帮助你利用现有资源,轻松突破40级进阶关卡。 核心阵容搭配

热心网友
04.04
这城有良田主C红品宝玉词条选择逻辑
手机教程
这城有良田主C红品宝玉词条选择逻辑

这城有良田主C僚属红品宝玉词条搭配攻略 在《这城有良田》中,红品宝玉的词条选择,是决定你主C僚属最终伤害上限的核心环节。面对各式各样的属性词条,不少玩家会感到困惑:如何搭配才能最大程度激发核心输出的潜力?本文将为你系统解析主C位红品宝玉的挑选逻辑与进阶策略,助你在资源投入上实现收益最大化,显著提升队

热心网友
04.04
哔哩猫app适配手表设置
游戏攻略
哔哩猫app适配手表设置

哔哩猫手表版优化指南:适配小屏的关键设置 想在智能手表上流畅体验哔哩猫?直接安装手机版本,往往会遇到界面拥挤、操作不便的问题。其实,只需调整几个核心选项,就能让哔哩猫完美匹配手表的小屏幕,操作体验大幅提升。 1、DPI优化:精准调节显示密度 手表屏幕空间有限,默认的显示比例常常导致文字过大、布局浪费

热心网友
04.04
《深海迷航冰点之下》咖啡机使用攻略
游戏攻略
《深海迷航冰点之下》咖啡机使用攻略

《深海迷航冰点之下》咖啡机使用全攻略:生存必备热饮制作指南 在《深海迷航冰点之下》这片危机四伏的极地海域中,新手面临的第一个致命威胁往往是持续不断的体温流失。与前作不同,身体失温在游戏前期是核心生存挑战之一。有效应对失温的方法主要有:尽快解锁并制作抗压潜水服的升级模块——防寒服、靠近能提供热源的炽热

热心网友
04.04
三国志王道天下吕布骑阵容玩法攻略
手机教程
三国志王道天下吕布骑阵容玩法攻略

三国志王道天下吕布骑阵容玩法攻略 在策略手游《三国志王道天下》中,构建强力阵容是核心乐趣。以飞将吕布为核心的群雄骑兵队,以其惊人的爆发力与爽快的操作体验,备受玩家关注。本攻略将为你详细解析这套阵容的构建精髓、核心机制与实战搭配思路,助你打造一支所向披靡的突击铁骑。 阵容构成 这套阵容以纯粹的群雄阵营

热心网友
04.04