随着技术飞速发展,数据量呈现爆炸式增长。据预测,到2025年,全球生成和消耗的数据总量将超过180ZB。然而,计算机的核心——中央处理器(CPU),其分析数据的能力却显得有些力不从心,导致数据处理变得缓慢且低效。为了满足多任务处理、高能效和节能的需求,传统的CPU设计日趋复杂。在这个高速发展的时代,指望单一的CPU包揽所有工作已不现实。于是,各种专用的处理单元(PU)如雨后春笋般涌现,它们的目标很明确:从CPU手中“分走”一部分任务,靠各司其职、协同作战来优化整体计算效率。
GPU在AI时代崛起
CPU是计算机的“大脑”,负责执行一般的计算任务;而GPU则擅长处理图形和人工智能等更为复杂的任务。
GPU(图形处理单元)最初是为满足图形渲染的需求而诞生的。在GPU芯片市场,英伟达控制着全球约80%的份额。其芯片最初主要服务于游戏市场,但如今它的作用已远不止于此。凭借强大的并行处理能力,GPU一路高歌猛进,就像一个充满潜力的少年,展现出无限可能。它已被广泛应用于深度学习、科学计算等多个领域。这种强大的计算能力不仅加速了图形处理,还能在数据分析、机器学习等其他任务上有效分担CPU的负担。
尤其是在当前的人工智能时代,生成式AI的广泛应用标志着一场技术革命的到来。在这一背景下,GPU的重要性日益凸显,甚至逐渐超越了CPU,站上了历史的舞台中心。
首先是市场地位的佐证。作为全球最大的GPU供应商,英伟达占据了大约80%的市场份额。2023年6月13日,其市值首次突破万亿美元大关,成为美国第五大市值公司,仅次于苹果、微软、Alphabet和亚马逊。这一里程碑事件,充分彰显了GPU行业的活力与增长潜力。

英伟达目前的市值仍然在1万亿美元以上
接下来是数据中心业务的大反转。过去几年,英伟达的战略重心开始向数据中心市场转移。2023年第二季度的营收数据揭示了这一显著变化。在此之前,数据中心市场上CPU的份额一直远超GPU。即便是在2023年第一季度,英伟达在数据中心业务的收入(42亿美元)仍未超过英特尔和AMD的总和。但到了第二季度,局面彻底改变:两大CPU巨头英特尔和AMD的数据中心营收分别为40亿美元和30亿美元,而英伟达的数据中心营收则一举突破100亿美元,甚至超过了前两者之和。这一数据清楚地表明,GPU的地位正在迅速上升,并在某些领域已经超越了CPU。
如今,GPU已在现代超级计算中占据核心地位,被广泛用于从网络到游戏、从加密到人工智能等各个领域的任务加速。可以预见,随着越来越多的计算任务转移到GPU上,它将在未来几十年内持续扮演计算和人工智能领域的关键工具角色。
为数据处理而生的DPU
有了专门处理图形的GPU,这还不够。在数字化时代,还需要有专门处理数据的处理器。于是,数据处理单元(DPU)应运而生,它也被称为数据中心的第三大计算支柱。DPU与CPU和GPU协同工作,用以增强计算能力,应对日益复杂的现代数据工作负载。

CPU、GPU和DPU的对比(来源:datacenterknowledge)
DPU专门设计用于处理海量数据和信息。它能高效地处理和分析数据,提升数据中心和云计算平台的性能。根据英伟达的定义,DPU主要承担三大任务:
卸载:从服务器CPU那里接管基础设施任务,释放CPU能力用于运行应用程序。
加速:利用DPU芯片中的硬件加速功能,比CPU更快地执行基础设施功能。
隔离:将关键的数据平面和控制平面功能移至DPU上的独立域,既能减轻服务器CPU的负担,又能在CPU或其软件受损时保护关键功能。
迄今为止,许多DPU的开发都面向超大规模数据中心。展望未来,DPU在数据中心和企业网络中的应用预计将持续增长。一种可能的实现方式是将DPU技术与网络交换机融合——AMD Pensando将这种组合称为“智能交换机”。AMD Pensando的一位高管表示:“智能交换机是企业吸收DPU技术最简便的方式,因为它能帮助淘汰旧设备,为网络带来重要的技术和规模。”
在人工智能、机器学习、物联网、5G和复杂云架构需求的推动下,DPU市场稳步增长。随着数据密集型应用程序的需求不断增加,计算架构持续演进,以提供更快、更高效、更安全的数据处理。目前,DPU市场已涌现出不少玩家,主要供应商包括国外的英伟达、Marvell、Fungible(已被微软收购)、Broadcom、Intel、Resnics和AMD Pensando,国内则有中科驭数、芯启源、云豹智能、云脉芯连等。
根据Allied Market Research的一份报告,预计到2031年,全球数据处理单元市场规模将达到55亿美元,2022年至2031年的复合年增长率为26.9%。可以预见,DPU可能会从今天的一个可选组件,转变为下一代计算中不可或缺的行业标准。
爆炸性增长的视频,需要VPU
随着视频内容的普及和人工智能技术的飞速发展,视频处理单元(VPU)正成为科技领域的一颗新星。多年来,英特尔的“CPU+软件”方案一直主导着流媒体视频的编解码市场。但随着高质量视频需求的持续增长,单纯依赖CPU已不再经济,且会消耗过多的能耗和空间。于是,专门用于处理视频的VPU芯片开始兴起,旨在解放CPU的沉重负担。
VPU专门设计用于处理视频任务,能高效地完成视频编解码、图像处理和机器视觉等任务。通过将这些任务从CPU或GPU上卸载下来,VPU提升了系统的整体效率和性能,同时减轻了其他处理单元的负担,让它们能专注于各自擅长的领域。此外,VPU通常还具备高性能、低功耗和低延时等优势。据SemiAnalysis对VPU芯片厂商镕铭微电子(NETINT)的分析,与CPU和GPU相比,VPU在密度和功耗方面具有明显优势,它的出现为视频行业应用带来了前所未有的加速计算能力。

VPU与GPU和CPU的对比(图源:Semianalysis)
如今,4K、8K等高清视频技术的广泛应用,使得视频处理的计算负担持续上升,这促使高效能的VPU成为行业发展的必备工具。目前,包括谷歌、Meta、字节跳动和腾讯在内的互联网巨头都已盯上这颗芯片。与此同时,AMD在今年4月发布了一款用于数据中心的新型专用媒体翻跟斗和视频编码卡——Alveo MA35D;英特尔则计划将VPU集成到其14代酷睿Meteor Lake处理器中。除了云端和数据中心,终端设备也已成为视频和游戏的主要载体,手机厂商愈发追求视频和影像质量。为此,vivo和小米选择以自研视频芯片为切入点,而像Pixelworks/逐点半导体这样的第三方视频芯片供应商,也迎来了发展机遇。
未来,视频处理芯片市场预计将继续增长,特别是在边缘计算、物联网和5G通信领域。高效、低功耗的视频处理芯片,将成为这些应用场景中的关键组件。
更多新的“PU”正在路上
一家成立于2018年的以色列初创芯片企业NeuroBlade,开发了一种专用处理器架构,并将其命名为SPU(SQL处理单元)。该公司的目标是成为“数据分析领域的英伟达”。SPU主要用于加速SQL指令处理。据其CEO介绍,通过使用专门设计的处理器来加速SQL处理,可以实现端到端的SQL分析加速。在部署上,该芯片通过主机服务器的PCIe总线插入,能够透明地接管SQL相关处理,而无需修改主机应用程序软件。
SPU支持常见的列式文件格式。当一个查询请求从查询引擎发出时,SPU可以直接访问并处理存储在本地存储设备上的数据文件。处理完成后,它会将结果以原生查询引擎布局的形式送回查询引擎。

SPU的工作原理
NeuroBlade公司正在与多个大型超大规模提供商进行谈判,并已与一家公司签订了数千张SPU卡的合同。此外,NeuroBlade还与戴尔公司合作,在PowerEdge服务器中分销SPU卡产品。据称,超大规模企业使用这种SQL处理单元来卸载运行分析工作负载的x86 CPU,可以获得100倍甚至更高的加速效果,每年可节省数百万美元。在NeuroBlade的客户中,还有存储类客户,例如铠侠已在其CM7系列企业NVMe SSD中成功配置了NeuroBlade的硬件增强型查询系统(HEQS)。据称,这可以使客户充分发挥高性能SSD吞吐量的潜力,将查询性能提升高达100倍。
结论
一款“全能”型的CPU,似乎已无法满足所有计算需求。随着计算需求日益多样化和技术的持续发展,多种专用PU的出现——如GPU、DPU、SPU和VPU——正是对这一趋势的回应。它们各自聚焦擅长的领域,优化特定计算任务,为CPU“分忧解难”,从而提升整体的计算效率和性能。
尽管多种PU的出现已经开始“瓜分”CPU的任务,但CPU仍然是计算的核心。不过,多种PU的融合与发展,无疑将进一步推动计算技术的进步和优化,帮助我们实现更高效、更快速的计算,以应对日益增长的数据和计算需求。
未来,我们可以期待更多种类的处理器出现,它们将更加专业和高效地处理各种不同类型的计算任务,为各个行业和领域带来更大的价值和推动力。
