随着计算复杂度的不断攀升,真正的瓶颈却逐渐转移到了其他方面。冯·诺依曼架构中数据在存储单元与计算单元之间频繁搬运的固有痛点,占用了大量时间、带宽与功耗,这一问题正变得日益尖锐。这种被称为“存储墙”的效应,已经到了不容忽视的地步。
所谓存内计算(In-Memory Computing),从字面理解即在存储单元内部集成计算功能。理想状态下,它能够直接绕过存储墙这一瓶颈。近年来,三星、SK海力士、台积电、英特尔、美光、阿里巴巴等全球巨头纷纷入局,众多初创公司也相继涌现,并已取得阶段性技术成果。
尽管赛道持续升温,但质疑之声从未间断。主要质疑集中在两个方面:其一,AI算法模型参数庞大、容量极高,直接在存储器内执行计算可能导致成本飙升;其二,存储芯片自身工艺——高密度、高良品率——面临巨大挑战,其能否支撑存内计算仍存疑问。
那么,存内计算这条技术路线究竟是否可行?如果可行,未来的市场机遇又在哪里?苹芯科技CEO杨越对此进行了深度解读。
存内计算究竟可不可行
针对成本方面的疑虑,杨越指出,问题的核心在于是否必须为存储海量网络参数而制造一块巨大的存储器。答案是否定的。目前业界已有成熟的应对方案。
方法一:算法模型轻量化。通过知识蒸馏等技术,直接降低模型参数的存储需求,例如CNN压缩技术。苹芯科技基于其首款商用存内计算芯片S200搭建的演示平台,运用神经网络架构搜索(NAS)方法获得了轻量化模型,在28nm工艺节点上,关键词识别任务的准确率达到了99%。
方法二:可扩展架构设计。杨越强调,一个合理的存算架构无需等待整个模型完全加载后再开始计算,而应能够灵活适配以计算负载或存储负载为主导的不同任务,构建出一个向上兼容的算力平台。
方法三:采用新型存储介质。磁性存储器MRAM和忆阻器RRAM的存储密度远高于传统SRAM。从存储单元层面实现更大容量,自然能够容纳更多参数。
由此可见,针对成本过高的担忧,从算法、架构、硬件三个层面均可找到相应的解决方案。
对于存储芯片工艺所带来的局限,杨越持乐观态度。苹芯科技当前主要基于SRAM技术,而SRAM工艺已相当成熟,7nm、5nm等先进制程产品已广泛商用。至于MRAM和RRAM这类新型存储,头部代工厂也已拥有22nm乃至更高制程的量产能力。当然,新型存储器作为新兴产品,在可靠性与耐用性方面仍需进一步验证,但业界预计其商业化成熟期不会太远。
苹芯科技虽成立时间不长,但其团队在创业前已在该领域深耕多年。从底层器件物理特性的理解,到上层架构设计,再到产品落地与成本控制,他们在各个技术栈均积累了自主知识产权。该团队是业界首个推出工业级28nm SRAM存内计算加速单元DEMO的厂商,也是首次利用RRAM完成基于LeNet的CIFAR-10识别任务的团队。其下一代芯片S300已从代工厂回片,工程团队正进行测试与演示。相比S200,S300的计算能力更强,可兼容更多网络模型,支持更丰富的边缘计算应用。
存内计算的机会点究竟在哪里
存内计算存在多条技术路线。Flash存储密度高,DRAM成本低,而MRAM与RRAM在密度和功耗方面更具优势。杨越判断,MRAM和RRAM代表了存内计算的未来方向。苹芯科技则采取了“SRAM+MRAM/RRAM”的混合技术路线。
选择这一技术路线背后有着清晰的逻辑。SRAM读写速度最快,可兼容更先进的制程节点,能效比高,且不存在非易失性存储的耐久性问题。更重要的是,基于SRAM的方案支持纯数字化设计,能够有效保障应用场景所关注的精度。而新型存储器则提供了更高的性能天花板,同时有助于团队核心成员发挥其过往的技术积累。
谈及市场机会,杨越指出,当前主流的AI芯片——如GPU、FPGA、NPU、SoC等——大多仍基于传统冯·诺依曼架构,已被存储墙和功耗墙牢牢束缚。存内计算恰恰能够弥补这一短板。
短期来看,存内计算的市场机会主要集中于端侧产品。其技术优势在于低功耗与高计算效率,可穿戴设备、智能家居等场景尤为适合。长期来看,随着新型存储器工艺的成熟,计算能力将提升2-3个数量级,应用场景将大幅扩展。例如在用电受限但对绝对算力仍有要求的场景中,存内计算能为客户提供差异化的选择。
小结
任何一项新技术,几乎都遵循一条相似的轨迹——Gartner曲线。从最初被热捧,到发展期的理性观察,再到成长期的稳步上升,直至最终商业落地。对于存内计算这类在底层有重大突破的技术而言,扎实的技术功底与可靠的工程化能力,才是企业立足市场并获得客户认可的真正基石。期待未来有更多优秀方案,为智能化场景带来更多可能。
