HBM分离封装新架构如何突破AI芯片内存带宽瓶颈

人工智能芯片的算力正以前所未有的速度增长,然而一个长期存在的瓶颈——内存带宽,正严重制约着其性能的充分发挥。当计算单元飞速演进,数据搬运的能力却难以匹配。近期,从存储与先进封装领域传来突破性进展,一种极具前瞻性的解决方案逐渐清晰:让GPU(图形处理器)与其关键搭档HBM(高带宽内存)实现“物理分离”,转而通过高速光互连技术进行协同。
这一构想并非空谈。据韩国领先存储厂商的研发人员透露,业界在传统路径上提升HBM带宽与容量已遭遇结构性限制。芯片的物理尺寸有限,其周边可用于堆叠HBM和布线的空间几近饱和。因此,解决问题的思路发生了根本性转变:与其竭力将内存紧贴芯片放置,不如将其适度外置,通过光学“数据高速公路”进行连接,从而为内存部署开辟出更广阔、更灵活的空间。
回顾以往,HBM普遍采用2.5D先进封装技术,紧邻GPU芯片放置,核心目标在于最小化信号延迟。但挑战在于,GPU芯片自身的边缘尺寸已接近制造极限,留给HBM的布局空间日益紧张。另一方面,垂直堆叠的路线也面临巨大压力,HBM堆叠层数正从12层、16层向20层以上迈进,每增加一层,工艺复杂度与良率控制都呈指数级增长。
在此背景下,分离式封装结合光学互连的方案展现出显著优势。在新架构下,HBM可以部署在距离GPU数厘米的位置,能够环绕芯片排列,亦可在PCB板上规划独立的“内存区域”。距离增加是否会带来难以接受的延迟?实际上,光信号的传输速度极快,数厘米距离引入的延迟增量微乎其微,完全处于高性能计算可接受的范畴内。
尤为关键的是,此项技术已步入实践阶段。在2025年的顶级高性能芯片技术大会上,已有厂商公开展示了其光子互连模块。此类模块能够环绕GPU封装布局,构建起高带宽、低功耗的光学I/O通道,相当于为芯片周边“解除了束缚”。由此释放出的宝贵空间,可直接用于部署更大容量、更多堆栈的HBM内存。
某国际顶尖封测厂商的高管明确指出,光学互连已成为行业公认的必然演进方向。其商业化落地将遵循从宏观到微观、由远及近的路径:首先应用于机架间、服务器间的数据互联,逐步渗透至单块主板上的板级互连,并最终实现芯片与芯片之间的直接光通信。这一终极节点的到来时间,很可能比业界预期更早。
总而言之,面对日益凸显的芯片物理极限,通过系统架构创新与跨领域技术融合来寻求突破,已成为产业发展的必由之路。将HBM分离并通过光互连进行整合,不仅旨在破解当前的内存带宽瓶颈,更是为下一代规模更大、性能更强的AI计算体系,预先铺设了一条高速、高效的“光传输”基石。
相关攻略
人工智能芯片的算力正以前所未有的速度增长,然而一个长期存在的瓶颈——内存带宽,正严重制约着其性能的充分发挥。当计算单元飞速演进,数据搬运的能力却难以匹配。近期,从存储与先进封装领域传来突破性进展,一种极具前瞻性的解决方案逐渐清晰:让GPU(图形处理器)与其关键搭档HBM(高带宽内存)实现“物理分离”
当整个行业还在为内存价格飙升而措手不及时,NVIDIA早已凭借前瞻性布局稳坐钓鱼台。公司首席财务官科莱特·克雷斯近期披露,NVIDIA已提前锁定关键内存产能,这与众多被动承受成本压力的企业形成鲜明对比,凸显了其卓越的供应链战略远见。 当前,AI加速芯片需求的爆发式增长,正将高性能内存市场推向极度紧张
北京大学团队提出“分组查询潜在注意力”方法,使同一套大模型参数可在推理时切换为两种数学等价但计算模式不同的形态,从而无需重新训练或定制内核,即可在高端与受限芯片上均高效运行,实现了“一套权重,跨硬件部署”。实验表明该方法在受限芯片上性能提升显著。
AI芯片需求激增导致全球半导体供应链紧张,成本压力正传导至消费电子领域。智能手机价格可能因此上涨,笔记本电脑和游戏主机已先行提价。制造商试图缓解压力,但部分新增成本或将转嫁给消费者。电信运营商正与供应商协作并推行降本计划以应对挑战。
阿里云推出平头哥新一代AI芯片真武M890,配备144GB显存,算力性能达上一代3倍,支撑智能体高频模型调用。该芯片已实战验证,未来将推出后续型号。平头哥坚持软硬一体策略,通义千问大模型在其上自主运行并实现性能提升,阿里云目标以此扩大AI市场份额。
热门专题
热门推荐
个性化学习已进入“动作”定制时代,系统通过动态分析学生数据构建个人知识图谱,实时规划学习路径、讲解方式与复习节奏。例如针对错题追溯前置薄弱点并调整讲解方法,实现从结果纠错到过程归因的转变,使大规模因材施教成为可执行、可量化的科学实践。
2025年,河北信息通信行业交出了一份令人瞩目的高质量发展答卷。核心发展指标持续领跑全国,稳居第一梯队,行业竞争优势与领先地位得到全面巩固,为河北省经济社会数字化转型构筑了坚实可靠的数字基石。 这份优异成绩,首先得益于信息基础设施的跨越式升级。全年行业固定资产投资完成115 2亿元,规模位列全国第九
北京时间2026年5月25日凌晨,中国空间站迎来又一里程碑时刻。神舟二十三号载人飞船经过约3 5小时的快速交会对接,于2时45分精准对接于天和核心舱的径向对接口。 对接约2 5小时后,舱门顺利开启。已在轨长期驻留的神舟二十一号乘组航天员,热情迎接了新战友入驻。此次“天宫会师”具有双重重要意义:它不仅
竖屏SLG手游《三国计》近期开启限时测试。其竖屏设计降低了操作门槛,便于单手游玩,同时保持了紧凑的界面布局与策略深度。玩家扮演乱世诸侯,目标是从生存壮大到问鼎中原。新手期建议紧跟主线任务,以解锁武将、兵种、科技等核心系统,并获取关键资源平稳度过开荒阶段。
一场历时四年、牵动全球游戏与科技界目光的动视暴雪股东集体诉讼案,迎来关键性进展。微软同意支付高达2 5亿美元的和解金,与提起诉讼的股东达成和解,为这场旷日持久的法律纠纷画上了阶段性句号。 根据2026年5月下旬于美国特拉华州衡平法院披露的和解协议文件,这笔巨额资金将用于赔偿在特定时间段内持有动视暴雪





