我们的大脑里装着860亿个神经元,单个看,每个都是再简单不过的细胞。但真正让人瞪大眼睛的是——它们之间能形成1014种连接。也就是说,神经元之间的连接数量能比神经元本身多出五到六个数量级。每个神经元从多个“输入”神经元那里获取带权重的信号,求和后通过树突输出,再传递给下一个神经元。这个过程,说白了就是互连。

作为一家做互连的公司,我们干的事说白了就是——模仿突触的功能,构建出数以亿计甚至百亿计的神经元和突触,然后把它们全连起来,复刻人脑的运作方式。只不过我们连接的是各种设备和系统之间的数据或电源。
AI架构的命脉,完全系在这些突触上。智能的核心不是神经元,而是互连。换句话说,智能靠的是网络,而不是单个计算单元!就像引脚数量远低于处理核心数量一样,突触的数量也远超过神经元的数量(图2)。

说个实际案例。前不久在OFC(全球光通信顶级展会)上,Meta宣布正在开发共封装铜和共封装光学方案。那是一个120mm×120mm的巨大基板,上面有16个位置可以选填光学模块(通过安费诺的压缩插座连接),或者用安费诺的DensiLink-OSFP OverPass方案。两种方案都能实现每秒51.2 TB的IO传输速率!图3里中间那颗芯片,是Broadcom还没正式投产的高阶芯片。

图3
Amphenol DensiLink used in Meta's project
这颗芯片提供了512个通道,每个通道跑112 Gb/s。十年前要实现51.2 Tb的数据交换,得用一个10英尺高、12个插槽的模块化系统。而现在,我们做到了这种惊人的扩展能力——这也正是AI/ML场景所需要的。
再比如TPU Pod(图4)。一个机架里有16个子架,每个子架上横着20根OSFP电缆。八个机架组成一个Pod,这是Google ML系统的最小单位。
算下来:2560个OSFP端口、1280根OSFP电缆!可这还只是一个“小”系统。

这套系统会形成一个全网状环形结构。正面互连从左到右水平走,背面互连则从上到下垂直走,构成一个完整的网格(图4)。每个机架先连最近的机架,再级联到下一个紧邻的,子架之间也一样。这种无交换设计大幅降低了延迟——不需要额外的中间组件来导流,每个节点自己就能控制方向。

这得用多少电缆啊!物理安装这些电缆,还要保证准确可靠的连接,绝对是个大挑战。在高速IO电缆刚起步那会儿,设计人员装个十根二十根就了不起了,哪想到现在一装就是1280根。
逼得我们不得不重新考虑部署方式。我们希望能逐步告别人工安装——这些Pod覆盖的面积接近4.6万平方米,维护和安装所有电缆几乎不可能。机器人应运而生,否则就得实现数据中心自动化。电缆的数量只会继续增长,而且对更细、更小弯曲半径、更高速度的要求也在不断提升。所以我们正在投资技术,打造更纤薄、更灵活的电缆,同时满足客户对更高带宽的需求。
问:请分享一下安费诺在PECFF领域的布局,也就是Gen Z附加卡封装形式。安费诺是否针对PECFF提供了任何产品?因为听说这项技术可能应用于加速卡。
是的,我们正在研发相关产品。这项工作延续了之前在SFF-TA-1002标准上的成果。新接口还是沿用同样的命名方式,但支持不同的应用场景。我们已经向PCI-SIG委员会提交了方案。SFF-TA-1002将建立一个新的标准,通过一个通用接口来支持固态驱动器、内存、AI/ML、计算和IO通信。我们做的就是这样一个通用接口。一开始只限于内部应用,但现在研发人员已经开始想办法扩展它的应用场景了。
问:想再重点了解一下SFF-TA-1002。针对Mini Cool Edge连接器,是否会有更大的应用前景?
当然。实际上,我们是业界第一家推出Mini Cool Edge的供应商。
问:我们希望了解Nvidia的NVLink专有技术及其相关硬件平台DGX-2。它被称为比PCIe速度更快且更具可扩展性的替代方案。鉴于此,您是否认为NVLink能够实现碘伏性增长并超过PCIe?还是会与PCIe共存?
从技术发展轨迹来看,它会与PCIe及其缓存一致性变体CXL共存。每次新技术出现时,都像是一个受控的混沌模型——每个人都知道应该怎么用这项新技术。所以每个人都会有自己的标准和接口。在AI/ML领域,我们还在原始阶段,对吧?我们仍在摸索支持这些技术的理想方式,以及该怎样建立标准。这项工作还在持续推进。别忘了,AI/ML真正落地才八年,我们不到五年就从零走到了大规模部署,真的很不可思议。
问:感谢分享。您能否介绍一下安费诺在NVLink技术领域推出的一些最重要的连接器?
好的。我们很早就与NVLink建立了合作。安费诺最开始创建了符合SFF标准的SlimSAS互连系统。然后NVLink用了Meg-Array,这是我们推出的一款高性能夹层连接器。再后来用了ExaMAX背板连接器系统。他们还评估了ExaMAX电缆,可与QSFP搭配使用,现在已发展到OSFP。下一代将使用DensiLink转OSFP。而现在,他们正在评估Paladin HD。也就是说,安费诺几乎每一款高速接口都已经被或正在被英伟达评估。这实在太有意思了。
问:就DensiLink而言,它最具吸引力、最突出的特点是什么?
从图8中可以看到,原因很简单——能在芯片上实现足够的带宽。每平方英寸的密度和带宽,是AI技术一个关键的优先事项。
问:AI的未来发展对安费诺有哪些影响?
AI架构出现才十年,未来几十年我们会看到它不断成熟和发展。同样,网络、服务器和其他数据电信应用也在高速演进。这些新兴技术往往要经过二三十年才真正大规模应用,最终成为业界标准。AI的挑战在于,它的发展完全依赖于越来越庞大的互连系统。未来技术趋势中,显然还要克服很多互连挑战。但互连行业的前景,非常光明。
