12月12日,AI开发者David Noel Ng分享了一笔令人咂舌的交易经历:一台配备了双NVIDIA GH200超级芯片的二手AI服务器,居然仅以7000欧元(约合5.8万元人民币)的价格成交。
如果购买全新产品,这套系统的价值至少高达8万美元以上(约合人民币56.44万元)。David Noel Ng指出,仅其中一块NVIDIA H100芯片的价值就接近3-4万欧元。
这台服务器核心配置堪称豪华:
双NVIDIA Grace-Hopper GH200超级芯片:每个配备72核ARM CPU和480GB LPDDR5X内存,以及Hopper H100 GPU和96GB HBM3显存
通过NVLink C2C实现高达900GB/s的带宽连接
3kW高功率电源
双PCIe Gen4 M.2 22110/2280高速扩展插槽

卖家透露,低价出售的原因是系统状况不佳:它从液冷改装为风冷,且无法安装在标准的服务器机架上。

但David Noel Ng还是决定亲自驾车前往卖家处检查。确认卖家信誉良好后,他将系统带回家,随后进行了一系列繁重的修复工作,包括彻底清洁、重新安装水冷装置,并解决了导致服务器反复崩溃的故障温度传感器。

修复后的系统性能令David极为满意。他兴奋地表示,他现在可以在家运行参数量高达2350亿的大模型,而总成本却低于购买单块H100显卡的费用。
更幸运的是,他还提到,由于近期内存价格飙升,这台服务器中配备的960GB LPDDR5X内存的市价,就已经超过他支付的整机价格。

