首页 游戏 软件 资讯 排行榜 专题
首页
AI
Akamai与NVIDIA合作推动分布式AI推理从内容分发迈向智能分发

Akamai与NVIDIA合作推动分布式AI推理从内容分发迈向智能分发

热心网友
87
转载
2026-05-18

自2010年在中国设立团队以来,Akamai已深耕本地市场十六年。在服务中国企业出海的漫长征程中,其团队展现出卓越的稳定性与战略专注度。

回顾NVIDIA GTC 2026,其CEO黄仁勋曾预言,AI推理的规模将迅速达到训练负载的数十亿倍。进入2026年,行业共识已然明确:AI大模型竞争的焦点,正从大规模训练转向规模化推理。在这一关键转折点,一场关于如何将算力高效、低延迟地交付给终端用户的变革正在发生。也正是在此背景下,Akamai与NVIDIA的深度技术协作,旨在重新定义AI服务的全球交付范式。

Akamai大中华区副总裁张轲

2026年4月14日,Akamai大中华区新任副总裁张轲携技术团队与媒体深入交流,首次系统阐释了这家拥有二十余年分布式网络技术积淀的公司,如何依托其覆盖全球的4400多个边缘节点,战略转型为全球领先的分布式AI推理平台。

张轲在开场分享中明确指出,当前中国企业全球化业务的核心挑战,已不再是简单的海外服务器部署,而是在满足日益严格的数据合规法规前提下,如何为全球终端用户提供稳定、毫秒级响应的AI交互体验。

从集中式训练到分布式推理:一场必然的范式演进

过去数年,科技巨头竞相投入巨资构建算力集群,焦点集中于大模型的集中训练。而迈入2026年,千行百业的关注点已转向AI技术的实际落地与应用效能。

黄仁勋的判断为产业指明了清晰路径:AI正从集中式、批处理式的训练阶段,迈向分布式、实时化的推理阶段。这一趋势也精准定义了Akamai未来的核心战略方向。张轲在会上坦言,Akamai正经历一次深刻的战略转型——从全球领先的分布式云安全与内容分发平台,演进为全球领先的分布式AI推理平台。

回顾个人与公司历程时,张轲表示:“过去十四年,我的工作重心始终围绕中国企业出海,亲身见证并参与了这波澜壮阔的国际化进程。”如今,这股出海浪潮的核心驱动力,已从早期的商业模式与产品创新,转向了以生成式AI为代表的深层技术创新。

长期以来,Akamai最为业界熟知的身份是CDN(内容分发网络)技术的开创者与领导者。过去二十年,其使命是让互联网内容与应用的传输更快、更可靠。然而,当AI应用从云端走向边缘,从后台分析走向实时交互,传统的内容分发模式已难以支撑新一代智能应用对低延迟与高并发的苛刻需求。

Akamai的转型战略具有深刻的行业洞察。随着生成式AI的爆发式增长,产业迅速形成一个共识:模型训练只是起点,真正让AI创造商业价值、服务海量用户的推理环节,对网络延迟、算力成本效益和数据主权合规提出了前所未有的挑战。

传统的中心化云架构在处理海量、高并发的实时推理请求时,难以规避骨干网络拥堵和数据长途传输带来的固有延迟瓶颈。而这,正是Akamai凭借其全球边缘网络所看到的战略性机遇。张轲强调,Akamai大中华区的未来策略具有高度的连续性。作为Akamai在北美以外最大的区域市场,大中华区拥有超过两百人的专业团队,未来将持续为中国企业出海提供从云计算、全球内容加速到一体化安全防护的端到端解决方案。

这种集成了计算、分发与安全的“三位一体”一站式解决方案,构成了Akamai区别于传统云服务商及独立网络安全厂商的独特竞争优势。

编织一张覆盖全球的智能算力网络

此次与NVIDIA深度合作的重要成果,是Akamai提出的“AI网格”(AI Grid)架构理念,以及基于此推出的Akamai AI推理云服务。

Akamai亚太区云计算架构师总监李文涛

据Akamai亚太区云计算架构师总监李文涛介绍,AI推理云是一个全球分布式云原生平台,其核心目标是通过统一的运营模型,在靠近终端用户的边缘位置高效运行AI推理工作负载。该平台的四大技术支柱包括:基于NVIDIA RTX PRO 6000 Blackwell系列GPU的高性能算力、智能AI任务调度网关、函数即服务(FaaS)以及分布式容器平台。

这一架构的革命性意义在于,它彻底颠覆了“数据长途跋涉奔赴中心算力”的传统模式,转而将强大的AI推理算力下沉并分布式部署在距离用户最近的网络边缘。目前,Akamai的平台已深入覆盖全球700多个城市、130多个国家和地区,互联超过1200家运营商网络。

这种边缘优先架构带来的性能与成本效益是立竿见影的:端到端AI推理延迟可降低超过40%。在具体实践中,例如某韩国头部游戏公司的案例中,通过平台的智能负载调度,实现了约30%的推理计算成本优化。

从战略协同角度解读此次合作,张轲认为Akamai与NVIDIA形成了优势互补的完美组合:NVIDIA提供了顶尖的“算力引擎”(GPU),而Akamai则贡献了遍布全球的“神经网络与末梢”(边缘基础设施)。双方的合作超越了简单的硬件采购关系,更致力于共同定义下一代AI推理网格的技术标准与最佳实践。

“AI网格能够智能感知AI推理任务的具体需求,并在毫秒级时间内完成全球范围内的最优GPU算力资源调度与编排。”李文涛补充道。这种先进的智能编排能力,确保了自动驾驶、实时语音翻译、在线游戏智能NPC对话等对延迟极度敏感的应用,能够获得低于15毫秒的首词元(Token)响应时间。

破解成本与合规两大出海核心难题

对于积极开拓海外市场的中国公司,尤其是AI初创企业和应用开发者而言,推理成本控制与全球数据合规性犹如两大关键挑战。

张轲精准洞察了这一核心痛点。他指出,在典型的分布式AI推理场景中,Akamai的解决方案相较于其他架构方案,可实现30%至60%的综合成本优化。这对于成本高度敏感、追求高效扩张的中国出海企业,尤其是初创团队,具有显著的吸引力。

这一价值不仅体现在直接的成本节约上,更在于能够助力业务以更快的速度触达全球市场,从而赢得宝贵的先发优势。

成本优势来源于双重技术优化:一方面是基于NVIDIA RTX PRO 6000 Blackwell GPU的高能效比设计;另一方面则得益于Akamai独有的语义感知缓存和智能动态路由技术。李文涛举例说明,在亚洲某智能客服领军企业的应用中,通过语义缓存技术,Akamai能在边缘节点智能识别并直接响应超过60%的重复性用户咨询,使得推理成本降低50%-80%,同时将响应速度从秒级提升至毫秒级。

在数据合规方面,随着全球范围内欧盟GDPR以及沙特、印尼等地数据本地化法律法规的日益严格,中国出海企业正面临业务全球化扩张与数据属地化监管的双重压力。

Akamai大中华区售前技术经理马俊

Akamai大中华区售前技术经理马俊指出,数据隐私与合规自Akamai平台设计之初便是基石性原则。他进一步补充,Akamai的API安全解决方案能够自动发现并监控隐藏在企业流量中的MCP(模型上下文协议)服务器,并提供针对性的高级防护,有效防止敏感数据通过大模型应用意外泄露。

张轲从基础设施层面进行了更深入的阐释。Akamai在全球战略位置部署的25个核心计算区域,覆盖各大洲主要经济体,能够天然满足GDPR等法规的数据本地化存储与处理要求。在AI应用架构层面,通过核心-边缘- Serverless 的三层AI推理云架构,既满足了大规模模型计算需求,又借助边缘节点和无服务器服务,实现了数据“不出境”或“本地化处理”的合规目标。

“我们的核心布局逻辑是让算力主动贴近数据源。”李文涛总结道,这使得企业可以实现数据在当地产生、在当地处理、并利用本地算力完成AI推理,从而系统性破解跨境数据流动带来的合规难题。

构建全栈式AI驱动的主动安全防御体系

AI技术的广泛应用使得安全问题呈现出双重性:一方面是AI应用自身可能引入的新兴风险(如提示词注入、数据泄露),另一方面则是利用AI技术来增强主动安全防护与威胁响应能力。

在Akamai“云计算-全球分发-安全”三位一体的核心战略中,安全始终扮演着基石角色。张轲将AI时代的安全挑战归纳为两大方向:一是保障AI应用的内容安全与合规,确保AI客服、智能助手等应用输出内容的准确性、无害性与合规性。为此,Akamai于2025年推出了AI防火墙解决方案,将其成熟的云Web应用防火墙及高级爬虫管理能力,无缝延伸至AI业务场景。二是利用AI与机器学习技术赋能安全防御,通过大模型分析提升威胁检测的准确性、自动化响应速度与运营效率。

马俊则深入剖析了AI时代企业面临的具体安全运营痛点。他指出,企业在实施微隔离和零信任架构时,常因资产发现耗时费力、担心安全策略影响关键业务、策略维护复杂度过高而难以持续推进。

Akamai Guardicore解决方案利用AI技术实现了持续、自动化的资产发现、依赖关系映射和安全策略引导,有效破解了这一难题。更值得关注的是,Akamai Guardicore已与NVIDIA BlueField DPU实现了深度集成。这意味着,即使上层服务器或虚拟机被攻陷,底层基于DPU的硬件级安全策略仍能强制执行,阻止攻击者在网络内部横向移动,从而将零信任的防护边界从传统的软件与网络层,坚实拓展至硬件与基础设施层,覆盖运维技术和工业物联网场景。

面对日益复杂的API安全威胁及新兴的MCP协议风险,Akamai能够利用其平台上超大规模的全球实时流量数据进行持续的行为异常分析,并对MCP流量实施细粒度的精准管控。马俊强调,Akamai已构建起一套从基础设施到硬件、从软件应用到网络微隔离的全栈式AI驱动安全防护体系,全面护航企业的数字化与AI化转型进程。

总结:深耕本地化,践行长期主义

作为新任大中华区负责人,张轲在阐述中国市场战略时,多次强调了“长期主义”与“深度本地化”这两个核心关键词。

Akamai在中国市场十六年的持续投入,不仅积累了深厚的客户信任与行业口碑,更锻造了对本地客户业务需求与合规环境的深刻洞察。张轲指出,Akamai大中华区近两百名员工中,技术售后与客户成功团队人员的比例高达70%。这种以服务为核心的高比例团队配置,在跨国科技公司中实属罕见。此外,Akamai还构建了成熟完善的本地合作伙伴生态系统,将合作伙伴视为自身服务能力与市场覆盖的重要延伸。

在张轲看来,未来的出海浪潮将超越传统的工具应用或单一产品,朝着复杂解决方案出海,以及与物理世界深度交互(如自动驾驶、智能制造、机器人)的方向演进。这些前沿场景对网络延迟、边缘算力效能和全栈安全提出了前所未有的严苛要求,而这正是Akamai凭借其全球分布式AI推理网络和集成安全能力所具备的独特优势领域。

“Akamai致力于成为物理世界通往AI智能世界的桥梁与入口。”张轲如此定义公司的使命,“我们无处不在的边缘网络,正全力帮助企业客户利用AI进行创新,并安全、高效、合规地成功拓展全球业务。”

来源:https://www.51cto.com/article/841624.html
免责声明: 游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

相关攻略

NVIDIA算力赋能家庭清洁电器 MOVA开启空间计算新时代
业界动态
NVIDIA算力赋能家庭清洁电器 MOVA开启空间计算新时代

近日,NVIDIA中国区核心管理团队专程访问MOVA,双方就家庭服务机器人(尤其是扫地机器人)的AI技术应用与端侧算力架构进行了深度战略协同。在普通观察者眼中,这可能仅是一次常规的商业交流。然而,若将其置于2026年的技术发展视野下审视,此举的意义远超表面——它更像是一个标志性的行业信号:全球顶尖的

热心网友
05.17
统信UOS系统兼容显卡型号与NVIDIA驱动安装指南
系统平台
统信UOS系统兼容显卡型号与NVIDIA驱动安装指南

统信UOS系统为不同显卡提供了全面的驱动支持方案,主要包括五大类:一、通过图形化驱动管理器便捷安装NVIDIA闭源驱动;二、通过APT官方软件源获取适配驱动;三、手动安装NVIDIA官方 run驱动文件;四、安装国产景嘉微或摩尔线程GPU专用驱动;五、对AMD显卡进行开源amdgpu驱动的增强配置。

热心网友
05.16
黄仁勋回应愿随美国总统访华称深感荣幸
业界动态
黄仁勋回应愿随美国总统访华称深感荣幸

5月8日消息,下周美国总统特朗普将访问中国,这将是其近十年来的再次访华。除了整治议程,随行的商界代表团名单也备受瞩目。英伟达(NVIDIA)首席执行官黄仁勋近日公开表态,称愿意随总统出访。 当地时间周四,黄仁勋在接受媒体采访时透露,他目前尚未收到正式邀请,但表示“如果获邀,将是莫大荣幸”。 目前,已

热心网友
05.16
Win10系统安装显卡驱动详细教程 NVIDIA与AMD显卡驱动安装步骤
系统平台
Win10系统安装显卡驱动详细教程 NVIDIA与AMD显卡驱动安装步骤

电脑屏幕频繁闪烁、分辨率设置异常、外接显示器无法识别,或是游戏帧率突然暴跌?先别急着更换显卡硬件,很多时候,问题的症结恰恰在于显卡驱动程序。一个安装不当、版本过旧或存在冲突的驱动,足以让高端显卡性能大打折扣。无论你使用的是NVIDIA独立显卡、AMD显卡还是Intel集成显卡,都可以通过以下四种系统

热心网友
05.16
英伟达为何抢购全光交换机连展示机都不放过
业界动态
英伟达为何抢购全光交换机连展示机都不放过

最近行业里有个消息传得挺热:鸿海集团给NVIDIA做的全光CPO交换机机柜,不仅提前出货了,而且未来几年的出货预期直接翻了好几倍。原先估计2026年能出个上万台,现在最新说法是,2026到2027年加起来,总量要超过5万台。 这可不是空xue来风。有业内人士透露,鸿海在越南工厂生产的这些CPO交换机

热心网友
05.14

最新APP

宝宝过生日
宝宝过生日
应用辅助 04-07
台球世界
台球世界
体育竞技 04-07
解绳子
解绳子
休闲益智 04-07
骑兵冲突
骑兵冲突
棋牌策略 04-07
三国真龙传
三国真龙传
角色扮演 04-07

热门推荐

广东无人机飞行空域最新调整范围扩大详解
科技数码
广东无人机飞行空域最新调整范围扩大详解

广东无人机适飞空域扩大16%至10 24万平方公里,覆盖全省57%陆地面积,滨海、郊野、工业园区及非核心城区公园等区域开放,深圳市区新增连片适飞区。飞行需通过民航局UOM平台提前申请,严禁“黑飞”,违者将受处罚。平台已升级,实现全国规则统一与分钟级空域更新,支持低空物流与巡检等应用。

热心网友
05.18
iPhone 17 Pro杭州门店抢购火爆 七千元起售迅速售罄
科技数码
iPhone 17 Pro杭州门店抢购火爆 七千元起售迅速售罄

杭州Costco门店因iPhone17系列手机引发抢购热潮,数百人排队致迅速断货。抢购源于官方降价与地方补贴叠加:iPhone17Pro全系直降千元,同时当地青年消费补贴可再减10%,最高省千元。双重优惠下,256GB版iPhone17Pro到手价低至7172元,较电商平台便宜近千元,吸引本地及周边消费者。目前门店仍处缺货状态,补货时间未定。

热心网友
05.18
千帆星座第九批组网卫星成功发射升空
科技数码
千帆星座第九批组网卫星成功发射升空

5月17日晚,长征八号运载火箭在海南商业航天发射场点火升空,成功将千帆星座第九批组网卫星送入预定轨道。此次发射是该发射场启用以来的第15次成功发射,也是今年第5次发射,体现了我国商业航天发射能力的日益成熟和常态化运营的稳步推进。

热心网友
05.18
七彩虹iGame M15/M16 Origo游戏本2026款上市 首发11499元起
科技数码
七彩虹iGame M15/M16 Origo游戏本2026款上市 首发11499元起

七彩虹新款iGameM15 M16Origo2026款游戏本已发售,起售价11499元。M15为15 3英寸黑色机身,配备2 5K300Hz屏,最高可选Ultra9处理器与RTX5070显卡。M16为16英寸白色款,屏幕规格相同,处理器性能更强,电池容量更大。两款均提供多种配置,享受国家补贴后价格更具竞争力,面向中高端游戏玩家与创作者。

热心网友
05.18
联想ThinkPad T14 Gen 7发布 支持LPCAMM2可更换内存
科技数码
联想ThinkPad T14 Gen 7发布 支持LPCAMM2可更换内存

联想在北美市场推出新款ThinkPadT14Gen7商务笔记本,支持用户自行更换LPCAMM2内存。该机型提供多款英特尔酷睿Ultra处理器选项,内存可选16GB至64GB,电池与屏幕亦有多种配置,其中顶配版搭载OLED屏幕。产品起售价为1618美元,高配版本价格超过3700美元,主要面向商用及专业办公市场,兼顾性能、可升级性与不同预算需求。

热心网友
05.18