首页 游戏 软件 资讯 排行榜 专题
首页
科技数码
四台M3 Ultra构建1.5TB内存AI超算,RDMA黑科技显著提效

四台M3 Ultra构建1.5TB内存AI超算,RDMA黑科技显著提效

热心网友
41
转载
2025-12-26

四台M3 Ultra打造1.5TB内存AI超算,RDMA黑科技提速显著

免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈

2025年12月25日,资深工程师Jeff Geerling完成了一项引人注目的技术实践,成功将四台搭载M3 Ultra芯片的Mac Studio整合为一台高性能AI计算集群,实现了高达1.5TB的统一内存配置。此次构建依托于最新版本操作系统中的一项关键功能——通过Thunderbolt 5接口实现的远程直接内存访问(RDMA),使得各设备之间能够绕过CPU直接读取彼此内存,显著提升了数据交互效率。

该集群在多项性能测试中表现出色。Geekbench 6多核测试结果显示,其整体算力超越了多款主流高性能桌面设备,双精度浮点运算能力突破1TFLOPS,同时在空闲状态下的功耗控制在10瓦以内,展现出优异的能效比。

在AI推理任务中,这套系统同样表现强劲。运行Llama 3.2 3B模型时,单机每秒可处理154.6个token;面对更复杂的Llama 3.1 70B模型,仍能维持每秒14.1个token的输出速度,两项成绩均领先同类配置。尤其在挑战超大规模模型DeepSeek R1 671B时,其他平台因内存限制无法完成加载,而该集群凭借庞大的统一内存资源成功运行,凸显其在处理极端负载场景下的独特优势。

核心技术RDMA over Thunderbolt 5在实际应用中带来了显著性能提升。启用该功能后,内存访问延迟由传统TCP方案的约300微秒压缩至50微秒以下。在使用exo系统进行Qwen3 235B模型测试时,四机协同每秒可生成31.9个token,相比基于llama.cpp和TCP通信的方案提速超过一倍;运行DeepSeek V3.1模型时更是达到每秒32.5个token的处理速度。

尽管整体表现优异,但在高负载持续运行过程中,系统仍偶发崩溃现象,表明当前配置在稳定性方面尚有优化空间。此外,该集群的硬件总成本约为4万美元(折合人民币约28万元),相比其他同类用途平台,建造成本相对较高。

来源:https://ai.zol.com.cn/1105/11059084.html
免责声明: 游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

最新APP

火柴人传奇
火柴人传奇
动作冒险 04-07
数独趣味闯关
数独趣味闯关
休闲益智 04-07
碧优蒂的世界
碧优蒂的世界
休闲益智 04-07
海岛奇兵
海岛奇兵
棋牌策略 04-07
列王的纷争:西部大陆
列王的纷争:西部大陆
棋牌策略 04-07

热门推荐

苹果折叠 iPhone Fold 渲染图再曝:后摄缩小凸起,整体更精致
科技数码
苹果折叠 iPhone Fold 渲染图再曝:后摄缩小凸起,整体更精致

苹果折叠屏手机 iPhone Fold 最新渲染图曝光:摄像头凸起优化,设计更显精致 有关苹果公司首款折叠屏 iPhone 的传闻持续受到关注。4月5日,知名爆料者 Majin Bu 在社交平台X上再度分享了一组据称是 iPhone Fold 的高清渲染图,从多角度揭示了这款备受期待设备可能的外观设

热心网友
04.07
这城有良田官府无垢队阵容推荐
游戏攻略
这城有良田官府无垢队阵容推荐

通用性首选:官府无垢队阵容深度解析 在当前版本中,若要挑选一套兼具强度与广泛适用性的阵容,以官府流派【长孙无垢】为核心的搭配方案无疑是热门之选。这套经典组合通常由长孙无垢(官府)、李一桐、李善德、李光弼,以及关羽或平安组成。其核心战斗逻辑清晰且高效:一方面,依靠长孙无垢与李光弼的技能联动,通过对目标

热心网友
04.07
洛克王国世界进化什么条件 洛克王国世界全隐藏进化条件整理
游戏攻略
洛克王国世界进化什么条件 洛克王国世界全隐藏进化条件整理

洛克王国全精灵隐藏进化条件完整攻略大全 在《洛克王国》丰富多彩的冒险世界中,除了常规的等级进化,众多精灵还埋藏着独特的“隐藏进化”路径。这些特殊的进化条件,往往是解锁精灵终极形态、完成图鉴收集的关键所在。与普通进化方式不同,隐藏进化需要触发特定的环境、时间、道具或任务条件,充满了探索与解密的乐趣。你

热心网友
04.07
燕云十六声石震通关方法-燕云十六声石震如何通关
游戏资讯
燕云十六声石震通关方法-燕云十六声石震如何通关

燕云十六声石震关卡怎么过?高效通关技巧与实战攻略详解 掌握核心机制:石震关卡难点全解析 石震关卡的核心挑战在于敌人配置:不仅数量密集,且拥有高额血量和攻击力。这些敌人并非随机分布,而是依据特定区域、巡逻路线及攻击逻辑进行部署。提前掌握不同敌人的攻击前摇、技能范围与仇恨机制,是制定有效战术的前提,真正

热心网友
04.07
英雄联盟手游安妮符文怎么搭配
游戏攻略
英雄联盟手游安妮符文怎么搭配

英雄联盟手游安妮符文终极指南:爆发流核心配置与实战策略 在英雄联盟手游的对局中,黑暗之女安妮以其强大的瞬间爆发与控制能力,始终是中单位置的热门选择。虽然操作看似简单易懂,但想要真正掌握这位火焰法师的精髓,打出毁天灭地的效果,一套科学高效的符文搭配是不可或缺的基石。正确的符文选择,能让她从温顺的火苗化

热心网友
04.07