7月23日，一家名为Acrab的初创公司正式发布了他们的首款芯片——面向边缘AI终端设备的GΞLIX 1 SoC。这一成果备受关注，基于先进的5nm制程工艺，该芯片能够直接支持1000亿参数规模的大模型在本地运行。换句话说，以往需要云端支持的百亿级参数大模型，如今能够在边缘设备上实现本地推理，这无疑是边缘计算领域的一个重要里程碑。

GΞLIX 1采用异构设计，内部集成了20核Arm CPU、3TFLOPS GPU、NPU以及一系列音视频引擎，AI算力达到650TOPS。更值得关注的是它的缓存和内存配置：拥有8MB的大型L1缓存，共享L2缓存带宽高达768GB/s，再加上256-bit 8533T/s的LPDDR5X共享内存。这些数字放在边缘芯片领域，堪称顶级配置。

Acrab在GΞLIX 1上通过矢量硬件加速了注意力机制，并且针对预填充阶段做了专门优化，显著降低了首Token用时。具体来看，在配备40k KV缓存和10k Token输入的Gemma 26B A4B配置下，GΞLIX 1可实现1416.8 Token/s的预填充速率——这个成绩是苹果M4 Pro Mac Mini的7.5倍。这一性能差距十分显著，体现了Acrab在架构设计上的独特取舍方向。

除了芯片本身，Acrab还为GΞLIX 1提供了丰富的软件堆栈和智能体参考设计，并基于这套方案打造了第一方终端设备Agent Box。这意味着他们不仅提供硬件，更试图构建一个完整的边缘AI生态。从芯片到软件再到终端设备，这一全栈式布局，显示出Acrab的战略目标远不止于做一颗芯片那么简单。