近日，云服务提供商 Akamai 宣布与英伟达合作，共同推出全新的 Akamai Inference Cloud 平台——这是专为人工智能推理场景设计的边缘云计算平台。这意味着，AI 模型的推理与响应不再依赖位于遥远数据中心的算力，而是更贴近用户、能够以更快速度完成。
据了解，Akamai Inference Cloud 集成英伟达最新一代 RTX PRO 6000 Blackwell GPU 与 BlueField-3 DPU，成为全球首批采用这一 GPU 架构的云厂商之一。
作为此次合作采用的核心算力组件，NVIDIA RTX PRO 6000 Blackwell 系列于 2025 年 3 月发布，支持高达 96 GB 显存与 24K CUDA 核心。
业界普遍认为，这款 GPU 在企业级市场是一次显著升级。正如 Tom’s Hardware 指出，其显存容量远超消费级显卡，例如 RTX 5090 的 32 GB。对于 AI 推理、大型语言模型（LLM）、专业渲染等场景，这款 GPU 被视为“推动边缘和专业市场加速”的关键硬件。这也是 Akamai 选择 RTX PRO 6000 的核心原因之一。
过去两年间，AI 模型的复杂度呈现爆发式增长，从图像生成、语音识别到大型语言模型，它们对 GPU 算力和显存的需求都在成倍提升。Akamai 认为，传统的集中式推理架构难以支撑这类高实时性任务，AI 算力必须“贴近用户”。
在选择 RTX PRO 6000 时，Akamai 看重的是其“平衡型性能”——既能满足专用 AI 模型的高效推理，也能支持大型语言模型的高显存需求；同时支持 GPU 虚拟化与资源分片技术，使单卡可同时处理多个模型任务，提高整体算力利用效率。
“这款 GPU 的性能与扩展性非常适合边缘部署。”Akamai 亚太区与全球云架构师团队总监李文涛表示。
在与英伟达的合作中，Akamai 并非仅仅追求硬件升级，而是致力于构建“边缘基础设施 + AI 软件栈”的整体方案。
根据 Akamai 测试数据，相较于集中式推理部署，其方案可实现智能体响应速度提升 6–10 倍、P95 延迟降低高达 5 倍。Akamai 全球网络可覆盖 95% 的互联网用户，单跳访问平均延迟仅为 10 毫秒，而中心云通常在百毫秒级别。这一差距，意味着 AI 应用的响应性能可以实现数量级的提升。
在成本方面，Akamai 的优势更加明显。AI 服务的主要支出除了 GPU 算力，还包括网络流量成本。主流公有云的出向流量定价约为 0.10 美元/GB，而 Akamai 的成本仅为 0.005 美元/GB，低 20 倍以上。这对于需要大量 AI 推理和数据回传的企业而言，意味着可观降本空间。
李文涛认为，边缘 AI 推理的需求已在多个行业爆发，例如：媒体娱乐行业，像 Monks 这样的视频与营销平台将 AI 模型部署在内容采集源头，实现实时识别与互动；电商行业通过边缘 AI 实现即时推荐和个性化服务，提升用户体验；智能驾驶与 IoT 行业，在毫秒级响应的要求下，边缘推理能显著提升服务安全性和稳定性。此外，金融机构也开始利用边缘 AI 完成实时风险识别，既能降低延迟，又能符合数据本地化与合规要求。
在中国市场，Akamai 的主要客户群体是出海企业。据李文涛介绍，目前，Akamai 中国团队中超过三分之二是技术岗位，提供贴身的顾问式技术支持；海外团队则提供“24×7 全时区”服务，帮助企业于全球范围内部署 AI 能力。
过去三年，Akamai 公有云在中国市场已服务媒体、电商、金融科技、广告科技、IoT 和智能制造等多个行业。随着 Akamai Inference Cloud 的推出，这些企业在海外市场将能更快、更稳、更低成本地部署 AI 服务。
Akamai 与英伟达的合作，是 AI 基础设施竞争的又一次版图扩张。当 AI 应用从模型训练转向大规模推理，算力的部署位置变得关键——离用户越近，价值越高。
Akamai Inference Cloud 的推出，或许预示着下一阶段的 AI 竞争，不再是“谁的 GPU 更强”，而是谁能更快地将 AI 推理送到世界的每一个角落。
原创文章，未经授权禁止转载。详情见转载须知。
