最近，边缘AI领域迎来重磅消息：一家名为 Acrab 的初创公司，正式发布了旗下首款芯片——面向边缘AI终端的 GΞLIX 1 SoC。这款芯片采用先进的 5nm 制程，最令人瞩目的是，它能够在本地直接运行参数规模高达 100B 的大模型。在边缘设备上部署如此庞大的模型，过去几乎难以实现。

GΞLIX 1 采用异构计算架构，集成了 20 核 Arm CPU、3TFLOPS 的 GPU、NPU，以及丰富的音视频引擎，AI 算力高达 650TOPS。缓存设计同样不惜工本：配备 8MB 大型 L1 缓存，共享 L2 缓存的带宽达到 768GB/s，同时还搭配了 256-bit 8533T/s 的 LPDDR5X 共享内存——这些规格在边缘 SoC 中堪称豪华配置。

值得一提的是，Acrab 在 GΞLIX 1 上通过矢量硬件加速了注意力机制，并对预填充阶段进行了深度优化，大幅降低了首 Token 延迟。具体数据极具说服力：在 40k KV 缓存、10k Token 输入、Gemma 26B A4B 配置下，GΞLIX 1 的预填充速率达到 1416.8 Token/s——这一成绩是苹果 M4 Pro Mac Mini 的 7.5 倍。要知道，M4 Pro 已是桌面级性能标杆，而 GΞLIX 1 定位的是边缘终端，这样的对比本身就极具冲击力。

除了芯片本身，Acrab 还同步提供了丰富的软件栈与智能体参考设计，并基于这颗芯片打造了首款终端设备 Agent Box。从硬件到软件再到整机，Acrab 显然打算推出完整的一站式解决方案。边缘AI终端赛道上，如今又多了一位值得关注的实力选手。