近日,一款采用创新架构的国产AI算力芯片宣布成功完成流片。这款芯片主要面向当下火热的大模型线上推理场景,专为解决推理过程中普遍存在的带宽瓶颈与数据延迟问题而设计,为相关应用提供底层硬件支撑。

该芯片的核心亮点在于其独特的3D混合堆叠架构。通过多层晶圆垂直堆叠技术,芯片显著缩短了存储单元与计算单元之间的数据传输路径。官方数据显示,其搭载的带宽高达16TB/s,这一高带宽特性正是为处理大模型海量参数交互、满足实时计算需求而专门优化。
技术自主与产业意义
值得关注的是,此次流片的芯片实现了从架构设计到制造环节的全流程国产化。在3D堆叠等高端算力方案长期由海外厂商主导的背景下,这款芯片的成功流片,标志着国内产业链在高性能AI算力硬件领域取得了实质性突破,显著补强了自主供给能力。
据悉,该芯片由一家2022年底成立、专注于3D AI算力芯片研发的企业设计完成。其高带宽和低延迟的特性,使其能够适配通用大模型、多模态内容生成以及实时对话交互等多种高负载、高并发的AI推理任务,为相关产业的落地应用提供了全新的硬件选择。
