与先前剧透完全一致，Meta 正式发布了 LLaMA-3.1 系列模型。其中最受瞩目的无疑是参数规模高达 405B、性能直接对标 GPT-4o 的旗舰版本。
同期亮相的还有能力大幅跃升的 8B 和 70B 版本。关于模型的性能评测与实际使用体验，接下来一段时间内必然会有大量信息刷屏。模型开放下载不到 12 小时，各版本的下载量就已分别突破五千次，其热度可见一斑。
昨天我们已经简要聊过 Meta 公布的评分情况（Llama-3.1？405B参数？开源却是最好的模型？）。由于尚未亲自跑完评测，这里不便对模型能力做出主观评价。按计划，下周部署完 405B 的推理环境后，会专门撰写一篇文章进行深入讨论。不过，今天读完扎克伯格的公开信（Open Source AI Is The Path Forward），仍然觉得有必要认真探讨：为什么 Meta 今天发布的 LLaMA-3.1 如此重要？
扎克伯格在信中已经给出了他的答案。他以 Linux 开源生态为参照，认为：
- 在大模型领域，开源模型将成为行业标准，也是最关键的基础设施；
- 通过开源，开发者可以满足特定需求、保护数据、降低成本，并避免被封闭供应商绑定；
- 对全世界而言，开源模型有助于激发创新、推动 AI 技术广泛落地，同时促进透明与公平的技术演进。
无论外界评价如何，Meta 已然成为大模型版图中不可忽视的重要力量。创始人扎克伯格本人高度重视，甚至亲自走到前台“督战”，这是非常关键的因素。这篇公开信写得很好、格局很高，值得仔细品读。
当然，背后自然少不了商业上的考量，但 LLaMA-3.1-405B 的开源，确实具有以下重要意义：
1. 这是第一个“公认”达到 GPT-4o / Claude 3.5 水平的开源模型（开放权重）。时隔一年多，最好的开源模型终于追上了最好的闭源模型。如果未来某一天回看，大概率会将今天定义为“AI 新时代的真正开端”——闭源模型的使用本质上存在不平等，而开放权重模型至少在访问上没有任何门槛。
2. LLaMA-3.1 的训练使用了 15T tokens，基本意味着网络上所有公开文本信息都被“压缩”进了模型（LLM 本质上就是一种压缩器）。如果说 GPT-4(o) 是具备一定思考能力的“百科全书”，那么 LLaMA-3.1-405B 的开放，就等于人人都可以拥有一套具备思考能力的“私人百科全书”。这对行业和社会的影响速度，将远远超过单一闭源模型——这就是加强版的“星星之火可以燎原”。
3. 405B 模型最大的意义并非直接推理，而是用于蒸馏出足够好用的“小模型”。客观来说，405B 对硬件的要求较高。即使使用 INT4 量化版本，也需要接近 200GB 的显存。Apple Silicon 芯片确实是不错的推理平台，M2 Ultra 的 192GB 内存版 Mac Studio 单机理论上也能运行 INT4 版本，但推理速度肯定不理想——每秒 5 个 tokens 就算不错了。对大多数人而言，直接使用 405B 推理并不现实，但可以利用它和垂直领域的高质量数据，通过知识蒸馏得到足够好用的“小模型”。这或许才是 B 端落地的正确打开方式。
4. 人人可以拥有的模型，必然推动“推理优化”快速进步，不断降低计算成本。405B 模型给了所有开发者和企业一个全新选择：私有化部署 GPT-4 级别的模型。虽然当前推理速度上不去，但相信“高手在民间”，未来很短的时间内一定会涌现大量推理优化方法，大幅提升推理速度，从而加速本轮 AI 渗透——尽管对很多人来说，这未必是一件愉快的事。
5. 如果 OpenAI 之前有所保留，那么现在必须拿出点真材实料了——这对行业是好事。
6. 对大多数模型公司来说，这也是利好：LLaMA-3.1 的路线可复制性依然较强。虽然从商业模式看，靠模型本身盈利基本走不通了，但其他道路一定还有很多。
7. 喜欢用摄影来类比：技术发展到今天，专业相机越来越强，但使用量最大的相机早已变成了智能手机。同理，模型的快速发展，最终催生的可能是新形态的“硬件”。虽然目前只看到一些雏形，还没有成熟产品出现（比如 Friend 这种有用但争议巨大的 AI 硬件）。
8. 或许，基于 405B，许多应用和业务流程都值得重新设计。