昨天，谷歌面向全球研究人员和开发者正式发布了Gemma 2大语言模型，此次一口气推出两个版本：90亿参数（9B）和270亿参数（27B）。没错，正是那个在开源社区备受期待的Gemma系列，如今迎来了第二代升级。

相较第一代，Gemma 2在推理性能、运行效率以及安全性方面均实现了显著提升。具体而言，27B版本的实际性能足以媲美两倍于其参数规模的主流模型，而仅需一块英伟达H100 Tensor Core GPU或一个TPU主机即可高效运行——这意味着AI模型的部署成本被大幅降低。

再看9B版本，其表现直接超越Llama 3 8B及其他同规模开源模型，性能在同级别中占据领先地位。此外，谷歌还透露了一个彩蛋：未来几个月内将发布一个26亿参数的Gemma 2模型，专门针对智能手机上的AI应用场景进行优化。

整个架构也经过了重新设计。谷歌表示，这一调整旨在实现更极致的性能和推理效率。下面直接看重点——Gemma 2的三个核心亮点：

卓越性能

27B版本在同参数规模中几乎没有对手，甚至能与两倍于自身的模型一较高下；9B版本同样领跑同类，明显强于Llama 3 8B及其他同尺寸开源模型。

效率与成本优势

27B版可在单个谷歌云TPU主机、英伟达A100 80GB Tensor Core GPU或H100上以全精度高效运行推理。在保持高性能的同时，预算友好度大幅提升，简单来说就是让人工智能部署更易落地，不再需要高昂的投入。

跨硬件快速推理能力

Gemma 2针对多种硬件进行了优化——无论是功能强大的游戏笔记本、高端台式机，还是云端环境，它都能跑出令人惊叹的速度。想亲自体验？可以直接在Google AI Studio里试用全精度版本；也可以在CPU上通过Gemma.cpp的量化版释放本地性能；或者借助Hugging Face Transformers，在配备NVIDIA RTX或GeForce RTX的家用电脑上运行。