NVIDIA EGX A100与EGX Jetson Xa vier NX的发布,正在让边缘AI生态进一步扩容。这两款产品一个面向大型商用服务器,一个专注于微型边缘节点,覆盖了从机场到便利店的不同场景需求。

AI优化、云原生、安全软件全方位技术支持,赋能新一轮5G和机器人应用。
在GTC 2020大会上,NVIDIA正式推出了EGX A100与EGX Jetson Xa vier NX两款产品。前者的定位是大型商业通用服务器上的翻跟斗,后者则是针对微型边缘服务器的紧凑型模块。它们共同的目标,就是在边缘端提供安全且高性能的AI处理能力。
借助EGX平台,医院、商店、农场和工厂能够实时处理来自数万亿边缘传感器的海量数据流,并且支持远程部署、管理和更新——这对于分布式场景尤为关键。
EGX A100与EGX Jetson Xa vier NX分别针对不同尺寸、成本和性能需求设计。举个例子,一个搭载EGX A100的服务器可以管理机场中的数百台摄像头,而EGX Jetson Xa vier NX则更适合管理便利店里的少量摄像头。Cloud-native的支持让整个EGX家族都能使用同一套经过优化的AI软件栈,大幅降低了开发和部署门槛。
NVIDIA创始人兼CEO黄仁勋在发布会上表示:“物联网和AI的融合正在开启‘万物智能’革命。就像智能手机将智能服务带入每个人的口袋,EGX平台让大型行业也能为用户提供智能互联的产品和服务。它能把标准服务器变成一个小型的云原生、安全型AI数据中心。借助我们的AI应用框架,企业可以构建从智能零售到机器人工厂再到自动化呼叫中心等各类AI服务。”
由NVIDIA Ampere架构赋能的EGX A100
EGX A100是首个基于NVIDIA Ampere架构的边缘AI产品。随着AI不断向边缘迁移,企业可以将EGX A100集成到服务器中,实时处理和保护来自边缘传感器的海量流式数据。
它结合了Ampere架构的突破性计算性能与NVIDIA Mellanox ConnectX-6 Dx SmartNIC的网络加速和安全功能,将标准型或专用型边缘服务器变为一台高度安全的云原生AI超级计算机。
Ampere架构是NVIDIA的第8代GPU架构,为在边缘运行AI推理和5G应用等计算密集型工作负载带来了有史以来最大的性能飞跃。这使得EGX A100能够实时处理来自摄像头和其他物联网传感器的大量流式数据,加速业务洞察。
红帽公司高级副总裁兼CTO Chris Wright评价道:“数据、AI和智能云原生应用正在改变每个行业的企业边缘。NVIDIA的EGX A100结合了针对Red Hat Enterprise Linux预编译的驱动程序和Red Hat OpenShift认证操作员,极大简化了硬件部署和管理,帮助客户处理要求极高的AI、边缘和5G工作负载。”
借助Mellanox ConnectX-6 Dx板载网卡,EGX A100能以200Gb/s的速度接收数据并直接发送到GPU内存进行处理。同时,针对5G无线报文的精准时钟调度技术(5T for 5G)让EGX A100作为云原生软件定义翻跟斗,能够处理对延迟最敏感的5G应用,为商店、医院和工厂等场景提供实时智能决策平台。
Ma venir总裁兼CEO Pardeep Kohli表示:“我们与NVIDIA合作构建了高性能虚拟5G无线接入网络和加速5G分组核心网,能够提供从AI/ML到AR/VR等各种新型GPU加速的5G服务。”
体积虽小,但性能强大的EGX Jetson Xa vier NX
EGX Jetson Xa vier NX是全球体积最小、性能最强的AI超级计算机之一,专为微型服务器和边缘物联网盒设计。目前生态内合作伙伴已提供了超过20种解决方案。这个模块将NVIDIA Xa vier SoC的性能整合到一张信用卡大小的板卡中。运行EGX云原生软件堆栈后,它可以快速处理来自多个高分辨率传感器的流式数据。
这款高效节能的模块能在15W功率下提供最高21TOPS的计算力,或在10W功率下提供最高14TOPS的算力。这意味着它打开了嵌入式边缘计算设备的大门——这类设备需要足够的性能支持AI工作负载,但受限于尺寸、重量、功耗或成本。
码隆科技联合创始人兼CEO Matt Scott表示:“NVIDIA Jetson和EGX正在帮助零售行业转变自助式结账体验。借助AI,我们的RetailAI套件可以实时、准确地识别成百上千种产品,带来无缝且安全的购物体验,且便于大规模部署。我们将继续探索NVIDIA产品线,找到更多应用于边缘的智能技术,提升客户满意度、减少零售量下滑。”
经过完整优化的跨EGX边缘AI平台云原生软件
EGX边缘AI平台的云原生架构使其能够运行容器化软件,支持一系列GPU加速的工作负载。NVIDIA的应用框架阵容包括:用于医疗的Clara、用于电信的Aerial、用于对话式AI的Jarvis、用于机器人技术的Isaac,以及用于零售、智慧城市、交通的Metropolis。这些框架可以组合或单独使用,为各种边缘用例开辟新的可能性。
目前整个EGX产品家族均支持云原生技术,智能机器制造商和AI应用开发者可以在嵌入式及边缘设备上构建和部署针对机器人、智慧城市、医疗、工业物联网等领域的先进软件定义功能。
来自全球EGX生态圈的支持
全球企业计算服务供应商如Atos、Dell Technologies、富士通、技嘉科技、HPE、IBM、浪潮、联想、Quanta/QCT和Supermicro,均提供通过NVIDIA EGX软件启用的边缘服务器。ADLINK和Advantech等大型服务器和物联网系统制造商也加入其中。
软件供应商如Whiteboard Coordinator、Deep Vision AI、IronYun、Malong和SAFR by RealNetworks等,可以利用这些服务器和经过优化的应用框架,构建面向医疗、零售、制造和智慧城市的解决方案。
供应情况
EGX A100预计今年年底上市。基于EGX Jetson Xa vier NX的即用型微型边缘服务器现已上市,可供希望大批量生产边缘系统的客户采购。
