游乐游手机版
首页/AI热点日报/热点详情

苹果与LM Studio联手本地解锁Mac Studio万亿大模型算力

类型:热点整理2026-06-23
LMStudio与苹果合作,利用四台MacStudio集群成功驱动万亿参数模型KimiK2 6,实现流畅本地推理。该方案凭借统一内存架构提供约1 5TB内存,功耗低于传统GPU集群。通过LMLink功能,用户可安全远程访问本地模型,数据完全私有,提升了隐私与可控性。

WWDC 2026 刚刚落幕,人工智能本地化部署领域便迎来一个标志性节点。LM Studio 与苹果达成深度技术合作,借助四台 Mac Studio 组成的集群,成功驱动了月之暗面旗下参数规模高达万亿级别的大模型 Kimi K2.6——并且运行极为流畅。这场演示打破了“大模型必须依赖云端集群”的传统认知,也让业界看到:消费级硬件在承载前沿 AI 算力方面的潜力,远超想象。

Kimi K2.6 本身是基于 MoE(混合专家架构)的超大规模模型,总参数量达到 1 万亿。在四台 Mac Studio 构建的集群中,得益于苹果统一内存架构的独特优势,系统轻松实现了约 1.5TB 的总内存容量,正好满足该模型推理所需的内存带宽与存储需求。开发者的测试数据表明,在这一集群架构下,Kimi K2.6 不仅能稳定运行,特定模式下文本生成速度甚至可达约 28 tokens/s,同时整体功耗远低于传统企业级 GPU 集群——这背后是架构效率与硬件协同带来的双重红利。

除了展现强悍的算力吞吐能力,此次合作还亮出了一个极具实用价值的跨设备协作场景。通过 LM Studio 旗下的 LM Link 功能,用户可以安全地实现远程本地化访问。演示过程中,研发人员使用 MacBook Neo 笔记本乃至 iPhone,就能直接与集群上的大模型进行高频互动。关键在于:所有交互过程中的数据处理都保留在本地局域网内,真正做到“私有化部署”,数据隐私安全性因此得到极大提升。

随着 Thunderbolt 5 等先进互联技术的引入,多设备内存共享能力正成为苹果生态在 AI 时代的重要壁垒。LM Link 功能已于今年 6 月初正式适配 Mac 及 iOS 平台,并支持端到端加密连接,这意味着本地集群的可操作性与安全性又迈上了一个新台阶。

对于开发者与极客群体而言,这一进展释放出明确信号:当硬件互联技术与本地推理平台协同进化,万亿参数级别的大模型将不再是巨头们的专属工具。通过高效的本地硬件集群,个人或小型团队同样能够构建出高性能、隐私可控的 AI 算力底座——这无疑是令人振奋的前景。

来源:https://news.aibase.com/zh/news/29033

相关热点

继续查看同栏目近期热点。

延伸阅读

补充最近整理过的热点入口。