游乐游手机版
首页/AI热点日报/热点详情

Meta开源30B模型Muse Glimmer:4bit量化可在24GB单卡GPU运行

类型:热点整理2026-08-15
8 月 10 日消息,Meta 今日正式发布 AI 大模型 Muse Glimmer,并基于 Apache 2 0 许可协议开源该模型权重。Muse Glimmer 是一款拥有 300 亿参数(30B) 的 AI 模型,重点针对可全天候常驻运行的本地智能体(Agent)工作流进行了深度优化。据了解,

8 月 10 日消息,Meta 今日正式发布 AI 大模型 Muse Glimmer,并基于 Apache 2.0 许可协议开源该模型权重。Muse Glimmer 是一款拥有 300 亿参数(30B) 的 AI 模型,重点针对可全天候常驻运行的本地智能体(Agent)工作流进行了深度优化。

Meta 开源 30B AI 模型 Muse Glimmer,4bit 量化可在单卡 24GB 显存 GPU 运行

据了解,Muse Glimmer 采用了 4bit 量化技术,因此可在配备 24GB/32GB 显存的 Mac 或 PC 设备上实现本地部署与运行。实际测试表明,这种模型压缩方案对智能体任务表现影响极小,整体性能几乎没有明显衰减。

Meta 已分别在 MacBook M4 Max、M5 Max 以及 RTX 5090 平台上完成测试。测试结果显示,该模型的推理速度足以支持流畅对话和实时智能体交互,并且全部计算过程均 100% 在本地设备端完成,进一步提升了本地 AI 应用的隐私性与响应效率。

与 Gemma4-31B 和 Qwen3.6-27B 相比,Muse Glimmer 在多项主流大语言模型基准测试中,展现出同尺寸参数级别模型中的出色性能与竞争力。

附开源地址:

https://huggingface.co/meta-models/Muse-Glimmer-30B

来源:https://www.ithome.com/0/988/007.htm

相关热点

继续查看同栏目近期热点。

延伸阅读

补充最近整理过的热点入口。