7月8日,一条消息在AI芯片圈里炸开了锅——据彭博社透露,SambaNova即将以110亿美元的估值,完成一轮10亿美元的融资(按当前汇率,约合68.02亿元软妹币)。这是该公司F轮的一部分,回看E轮,当时估值还只有20亿美元左右。用一年左右的时间把估值翻五倍,这个速度,只能说市场对AI算力的饥渴远超想象。

与此同时,SambaNova还拿下了一个重磅客户——摩根大通。这家金融巨头将正式部署SambaNova的RDU芯片,用来处理内部的人工智能工作负载。换句话说,银&行也开始自建AI算力池了。
说到SambaNova的芯片,有个设计细节值得一提:它搭载了相对大容量的SRAM片上缓存,同时还通过HBM和通用DRAM进一步扩充内存容量。这种思路,说白了就是让数据尽量留在离计算单元近的地方——对于AI推理中的解码负载来说,这个设计非常对路。毕竟,解码阶段的延迟和带宽瓶颈,一直是很多芯片方案里绕不过去的坎。SambaNova的做法,相当于给推理场景专门修了一条“快车道”。
