英伟达拟发布推理芯片新架构,揭秘“神秘芯片”设计
21世纪经济报道 邓浩 孙燕
今年三月中旬,英伟达将在加州圣何塞召开GTC大会。这场盛会,无疑是AI领域最受瞩目的行业风向标之一。就在不久前,黄仁勋宣布,公司将推出一款“前所未见”的全新芯片。
消息一出,资本市场热议四起。目前的主流观点是,计划于GTC大会上发布的这款芯片,最有可能的形态是融入Groq LPU设计理念的全新推理产品。
业内专家分析,这款芯片不太可能是“加速插件”。云岫资本AI/智能制造组董事庄昌磊对记者表示,“如果作为现有GPU的插件,其数据传输仍需经过PCIe或NVLink等外部接口,这本身就会引入新的延迟,部分抵消SRAM低延迟的优势。”
他进一步补充道,“更理想的方案,或许是像Cerebras那样,打造一个专为推理设计、以SRAM为核心的崭新计算架构。”
推理时代来临
随着以小冰“小龙虾”为代表的新一代智能体应用走红,全球算力需求结构正经历显著转变,市场重心也从训练转向推理。
根据德勤《2026科技、传媒和电信行业预测》,到2026年,“推理”将占据全部AI计算能力的三分之二。并且,未来还将出现价值数十亿美元的推理专用优化芯片,它们将被部署在数据中心和企业服务器中。部分芯片的功耗将与通用AI芯片相当甚至更高。
近日,记者获悉,对于此次大会,业界预测的最大亮点,除了预计英伟达将正式揭晓Rubin及下一代Feynman架构GPU的核心技术细节外,还普遍认为其极有可能会推出一款整合了LPU技术的全新推理芯片。
作为整合了Groq团队LPU技术的全新推理芯片系统,这或将是英伟达首次在其核心AI算力产品线中大规模引入外部架构。
中信证券称,此前英伟达推出Rubin CPX针对Prefill环节降本需求,而在完成对Groq相关技术的吸收整合后,本次或许会推出LPU或“类LPU”芯片来实现Decode环节的提效。
在推理过程中,模型一般需经历两个阶段。首先,在pre-fill阶段处理用户输入;其次,在decode阶段,逐个生成输出结果。
实际影响用户体验的关键,在于decode阶段的生成速度与延迟。在基于GPU的推理架构中,由于大量模型参数存放在HBM中,计算核心与HBM之间需要进行频繁的数据搬运,这会影响模型decode阶段的时效性。
而Groq的LPU专为推理加速设计,它采用离计算核心更近的存储单元SRAM来存储模型参数。例如,约230MB的片上SRAM可提供高达80TB/s的内存带宽,数据处理速度远超GPU架构。
不过,从物理设计来看,用SRAM完全取代HBM并不可行。
庄昌磊解释道,面对当前动辄千亿、万亿参数的大模型,纯SRAM方案在容量上完全无法胜任。那么,英伟达可能会如何进行创新?
答案很可能不是“替代”,而是“叠加”。庄昌磊表示,“根据产业消息,英伟达可能采用类似AMD 3D V-Cache的技术,通过台积电的SoIC混合键合技术,将专为推理加速设计的、包含大量SRAM的LPU单元,直接3D堆叠在GPU核心晶圆之上。”
供应链或生变
对于3D堆叠方案,AMD等头部厂商已有布局。2024年AMD公布了3D垂直缓存技术,可将额外的7nm SRAM缓存垂直堆叠在Ryzen计算小芯片顶部,大幅增加L3缓存数量。2024年7月,富士通介绍旗下MONAKA处理器采用3D SRAM技术,计划2027年出货。
这一方案会否走向主流?
“片上SRAM存在工艺缩放比逻辑电路慢等问题,导致在单枚芯片上SRAM占用的面积较大、成本提升。基于此,部分投资者认为SRAM架构难以成为AI芯片内存的主要方案。”东方证券则认为,SRAM 3D堆叠方案可通过垂直堆叠存储单元的方法来提升密度,规避传统SRAM容量受面积密度限制的问题。若AI推理中需要实现更高容量的SRAM,3D堆叠方案有望拓展应用。
中信证券也认为,未来的GPU与NPU都有可能采用3D堆叠SRAM的方式,实现访存带宽的飞跃,吸收LPU的优势,同时保持原有的软件生态无需变动,保留GPU和NPU的原有优势。
庄昌磊指出,复杂的AI芯片可能需要两者兼顾:先用SoIC叠堆LPU和GPU核心,再把这个堆叠好的立方体通过CoWoS与HBM封装在一起。对于一些特定的、不需要HBM容量的纯推理芯片,确实可以完全依赖3D堆叠SRAM来构建,从而绕开CoWoS,“但这部分芯片面向的是细分市场,量级难以撼动HBM+CoWoS的主流地位。”
而SRAM 3D堆叠需要在晶圆制造阶段就进行精确的晶圆对晶圆键合,技术和工艺与前段制造深度耦合。这将进一步把价值量从后道封装前移。
一方面,先进制程的价值被进一步放大。庄昌磊指出,为了在垂直堆叠中获得最高的互联密度和能效,最底层的计算晶圆必须采用最先进的工艺,这加剧了行业对尖端制程的依赖。
“另一方面,如果高端芯片的价值不断向前道制造和与之绑定的先进封装集中,本土封测厂可能面临被‘挤出’高端市场的风险。”庄昌磊认为,这也为本土封测厂带来了差异化竞争机遇,例如为不需要最尖端工艺的芯片提供成熟且高性价比的3D堆叠方案,或是在3D堆叠芯片的测试、散热、可靠性分析等后端环节建立新的技术壁垒。
相关攻略
液冷服务器板块市场行情火热,关注度与投资热情持续走高。同飞股份、申菱环境盘中涨幅均超14%,川润股份、宏盛股份、银轮股份等个股早盘已强势涨停,英维克、大元泵业、飞龙股份、依米康等相关概念股也同步跟涨。 此番上涨行情背后,拥有坚实的行业数据作为支撑。TrendForce集邦咨询最新研究报告指出,在AI
传统数据中心的核心任务,曾是数据的存储、检索与处理。然而,进入生成式AI与袋里式AI时代,这些设施的定位已悄然转变——它们正演变为一座座“AI Token工厂”。当AI推理成为核心工作负载,其核心产出便不再是原始数据,而是以Token为载体的智能本身。 这一根本性的转变,要求我们对AI基础设施的经济
美股芯片板块近期表现不佳,呈现普遍走低态势。其中,英伟达股价微跌0 04%,台积电股价下跌0 93%,应用材料跌幅较大为3 21%,阿斯麦也下跌0 59%。仅有美光科技保持上涨,但涨幅收窄至1 27%。市场分析指出,这反映了投资者对半导体行业短期走势的审慎情绪,以及对宏观经济和行业周期因素的担忧。个
黑石与谷歌计划投资250亿美元组建AI云算力公司,其中黑石先投入50亿美元股权资本。新公司将依托谷歌TPU芯片及云服务,挑战独立算力服务商,推动谷歌TPU大规模外销,加剧与英伟达的竞争。双方目标在2027年上线500兆瓦算力,相关数据中心建设已启动,黑石借此巩固其在AI基础设施领域的领导地位。
英伟达正洽谈领投印度AI初创公司Simplismart,计划投资约2000万美元,投后估值预计达1亿美元。该公司专注于生成式AI和MLOps,若交易达成,其估值将在数月内从2500万美元跃升近四倍,增长迅猛。英伟达今年在AI领域投资已超400亿美元,持续扩张其生态布局。
热门专题
热门推荐
人工智能生成PPT讲稿能显著提升效率,节约时间成本,并辅助内容构思与视觉设计。然而,其生成内容可能存在深度不足、事实错误及同质化风险。技术的应用还需面对伦理、隐私及人类创意能力等挑战。关键在于使用者需平衡效率与质量,在利用工具优势的同时保持审慎。
币安安卓官方应用最新版本为v3 2 8,用户应通过官方网站渠道获取正版下载地址以确保安全。请务必从官网直接下载安装,避免使用不明来源的链接,以保护资产与个人信息安全。
生成式AI能快速制作PPT,显著提升效率并可能提供新视角。但其产出缺乏人类基于经验与共情的创造力,难以传递情感与构建动人故事,在专业适配和逻辑上也可能存在不足。未来趋势是人机协同:AI处理基础工作,人类专注创意与情感注入,实现技术赋能而非取代。
人工智能正改变PPT制作方式,显著提升效率与视觉表现力。用户输入主题即可快速生成结构清晰的草稿,并自动匹配设计元素。市场主流工具如CanvaAI等已验证其可行性,但生成内容仍需人工校对以保证专业性。未来趋势将更智能化和个性化,AI作为协作工具解放人力,使创作者更专注于策略与创意。
人工智能正变革PPT制作,显著提升效率与专业水准。AI能快速生成初稿并实现个性化设计,但内容质量仍依赖人的判断与引导。市场工具多样,各具特色。未来需平衡技术赋能与人文内核,让演示者更聚焦思想与情感共鸣。





