游乐游手机版
首页/科技数码/文章详情

云天励飞研发推理芯片采用3D堆叠存储技术

时间:2026-05-16 20:20
近日,云天励飞在最新披露的投资者交流纪要中,系统阐述了其面向下一代人工智能的推理芯片研发蓝图。该芯片的核心创新围绕其自主研发的GPNPU架构展开,旨在从底层系统性破解当前大模型在推理部署中普遍面临的效率瓶颈与高昂成本难题。其技术战略主要聚焦于四大关键维度。 一、GPGPU级通用编程能力:破解“易用性

近日,云天励飞在最新披露的投资者交流纪要中,系统阐述了其面向下一代人工智能的推理芯片研发蓝图。该芯片的核心创新围绕其自主研发的GPNPU架构展开,旨在从底层系统性破解当前大模型在推理部署中普遍面临的效率瓶颈与高昂成本难题。其技术战略主要聚焦于四大关键维度。

一、GPGPU级通用编程能力:破解“易用性”与生态迁移难题

当前国产芯片推广常面临生态壁垒高、用户迁移成本巨大的现实挑战。针对这一痛点,云天励飞的GPNPU架构将“通用编程能力”置于优先地位。该架构强调对CUDA等主流开发环境与编程模型的兼容与高效迁移支持,这意味着企业客户与开发者基于现有主流框架训练的大模型,能够以极低的改造成本和风险,平滑部署到新的国产芯片平台上。这一设计显著降低了技术切换门槛,为国产AI芯片的规模化应用扫清了关键障碍。

二、极致能效的NPU内核:专为推理场景优化,追求极致性价比

卓越的通用性是基础,而推理芯片的终极竞争力则在于能效比。云天励飞的第二项技术重点,是对专用NPU计算内核进行深度定制优化,使其计算单元、数据流与控制逻辑完全匹配Transformer等主流模型的推理计算特征。其核心目标是在给定的单位功耗预算内,释放出更高的实际推理吞吐量,从而直接提升从云端到边缘侧AI推理任务的整体性价比。这对于需要7x24小时持续运行或大规模部署的AI应用而言,是降低总体拥有成本的核心。

三、引入3D堆叠存储架构:突破制约算力的“内存墙”瓶颈

随着大模型参数规模持续增长,传统冯·诺依曼架构中存储与计算分离导致的“内存墙”问题日益突出,数据搬运的延迟与功耗往往成为算力利用率的主要瓶颈。为此,云天励飞在其新一代推理芯片中创新性地引入了3D堆叠存储技术。该技术通过先进的封装工艺,将高带宽存储器与计算核心在三维空间进行垂直集成,极大缩短了数据交互的物理距离。其效果是实现了远超传统架构的数据带宽与极低访问延迟,确保了强大的计算单元能够获得持续、高速的数据供给,从而显著提升芯片的整体计算效率与能效。

云天励飞:正在研发的推理芯片引入3D堆叠存储架构

四、算力积木架构:灵活构建Scale-up超节点,应对万亿参数模型

为应对未来万亿参数乃至十万亿参数级别的MoE专家混合模型对算力的海量需求,单芯片算力已显不足。云天励飞基于其在国产工艺平台上长达五年的技术积淀,提出了创新的“算力积木”系统架构。其核心理念是将高性能的芯片单元作为基础“积木块”,通过先进的片间互连技术,像搭积木一样灵活构建出机架级甚至集群级的Scale-up超节点。这种架构能够实现算力的近乎线性扩展,并提供高带宽、低延迟的互联网络,从而满足超大规模模型训练与推理对庞大体量算力和高效数据协同的极致要求。

终极目标:实现推理成本指数级下降,加速AI应用普惠化

集成上述四大技术路径,云天励飞的最终目标清晰而坚定:通过从架构到工艺的底层系统性创新,实现大模型推理Token成本的指数级降低。只有当推理成本降至足够亲民的水平,大模型技术才能真正走出实验室与头部企业的试点,在千行百业中实现大规模、可持续的商业化落地与应用普惠。这不仅是单一芯片产品的成功,更是推动人工智能产业从技术探索迈向全面繁荣的关键基石。

来源:https://www.163.com/dy/article/KSOMNDV7053469RG.html
上一篇义乌涌现首批AI原生企业新浪潮 下一篇小米汽车四款新车规划曝光 纯血入门寻天加长版全解析
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
优必选CEO周剑:家庭机器人生态核心投入过半精力
科技数码 · 2026-07-01

优必选CEO周剑:家庭机器人生态核心投入过半精力

先说几个核心判断:优必选正在布局一盘长远战略。创始人兼CEO周剑在近期一场媒体沟通会上,直接亮出了公司未来的发展路线——工业、商用、家庭陪伴机器人三条业务主赛道并行推进,现阶段每条线各占约一半精力。一边是已经能够稳定创造收入的工业场景,另一边则是他眼中“最具想象力与未来空间”的家庭陪伴领域。工业人形

CPO/NPO/OIO开启封装级光连接价值空间,技术路线尚未收敛
科技数码 · 2026-07-01

CPO/NPO/OIO开启封装级光连接价值空间,技术路线尚未收敛

6月30日,申银万国在光连接系列研报中重点指出,MPO光连接器领域的投资机会值得高度关注。通俗来说,随着AI算力集群持续扩张,光互联升级带来的连锁效应——数据中心光纤通道数量、前面板端口密度、机柜内光纤管理复杂度——均在同步攀升。光连接器的角色早已超越传统的低价值标准件,如今它直接决定着链路插损、可

龙岗AR实景剧本游内测体验短板有效破解之道
科技数码 · 2026-07-01

龙岗AR实景剧本游内测体验短板有效破解之道

在今年龙岗区第二届人工智能与机器人发展大会上,区级部门一次性推出了7个AI“龙搭子”。其中,名为“龙导游”的成果成为文商旅融合领域的核心亮点。据南都N视频记者了解,依托“龙导游”打造的全区全域AR实景剧本游“龙岗大陆”,已在今年五一假期发布了内测版本。经过一个月市场验证后,该项目正式启动面向全社会的

南下资金6月30日净买入中芯国际与建滔积层板
科技数码 · 2026-07-01

南下资金6月30日净买入中芯国际与建滔积层板

6月30日,南下资金持续大举买入港股,单日净流入金额高达58 95亿港元。接下来,我们直接盘点哪些个股获得资金青睐、哪些遭到减持: 净买入方面,中芯国际领跑全场,单日吸金19 33亿港元;建滔积层板紧随其后,净买入10 59亿港元;腾讯控股获得7 65亿港元净流入;智谱(02513 HK)也有6 5

电动汽车电池新国标7月实施热失控不起火不爆炸
科技数码 · 2026-07-01

电动汽车电池新国标7月实施热失控不起火不爆炸

自2026年7月1日起,两项关乎电动汽车安全的核心强制性国家标准将正式实施,为行业加装“安全锁”——《电动汽车安全要求》(GB 18384-2025)与《电动汽车用动力蓄电池安全要求》(GB 38031-2025)同步落地。此次标准升级,从整车架构与电池系统两大维度,精准填补了近年来多起事故暴露出的