2月25日消息,专注于大语言模型工作负载的AI芯片公司MatX正式浮出水面,它由两位前谷歌TPU工程师共同创立。就在当地时间24日,这家公司宣布已完成高达5亿美元的B轮融资,其投资方阵容颇为亮眼,吸引了包括世芯电子、美满电子以及多家知名投资机构。

MatX透露,公司目前正在全力开发一款名为MatX One的芯片。这款处理器采用了创新的可分割脉动阵列架构,巧妙地将大型阵列的高效能与面积效率,同小型阵列的灵活性与高利用率结合起来。它还融合了SRAM设计的低延迟优势与HBM方案的长上下文处理能力。
据称,MatX One能够实现业界领先的LLM吞吐量,其延迟表现足以媲美以SRAM为核心的优先芯片。它广泛适用于训练、预填充、推理解码、强化学习等多种应用场景,旨在为用户带来更低的LLM使用成本。
