游乐游手机版
首页/AI热点日报/热点详情

谷歌发布DiffusionGemma文本扩散AI模型本地推理提速四倍

类型:热点整理2026-07-06
谷歌推出DiffusionGemma文本扩散模型,采用并行生成机制,迭代纠错提升输出稳定性。本地推理速度较自回归模型提升4倍,采样速率达每秒1479个文本单元。代码与数学推理表现突出,已按Apache2 0协议开源。

6月11日消息,谷歌正式发布了一款全新的开放人工智能模型——DiffusionGemma。该模型基于文本扩散机制构建,与当前主流的自回归大语言模型在底层逻辑上存在本质差异。正是基于这一观察:本地AI推理速度直接提升4倍,为端侧及本地人工智能应用的优化开辟了一条创新路径。

目前大家熟知的GPT、Gemini等主流大语言模型,大多采用自回归架构——逐个按顺序生成文本单元。这种模式在云端批量处理场景下表现稳定,但问题在于,硬件内存带宽的限制使得这类模型在本地推理时容易造成计算资源浪费。简而言之,就是像把大象装进冰箱,门关不上。

技术创新:从序列生成到并行生成

DiffusionGemma选择了一条截然不同的技术路线——扩散模型。它不再逐一生成文本单元,而是通过对噪声逐步去噪,并行完成全部文本单元的整体生成。这种方式不仅能同步优化整体输出效果,还能完美适配本地低带宽的运行环境。在真实部署场景中,速度优势十分显著。

据透露,DiffusionGemma的整体能力已与同系列的Gemma 4模型持平,高效推理与内容质量兼得。更重要的是,模型在生成过程中支持迭代纠错,这意味着输出内容的稳定性与一致性更上一层楼。其采样速率可达每秒1479个文本单元,单次生成耗时仅为0.84秒。生成效率的提升幅度,肉眼可见。

性能测试:亮点与追赶空间

在综合性能测试中,该模型在不同领域的表现各有亮点。代码生成方面,在LiveCodeBench、BigCodeBench、HumanEval三项测试中,DiffusionGemma分别获得30.9%、45.4%、89.6%的成绩,综合表现与Gemini 2.0 Flash-Lite旗鼓相当。这一成绩在开源模型中相当能打。

数学推理方面,DiffusionGemma在AIME 2025测试中取得23.3%的得分,优于同期对比模型,充分展现了扩散架构在数理推理任务中的发展潜力。不过,模型在科学推理以及高难度综合推理相关测试中,成绩暂时不及主流对比模型。显然,这条技术路线仍有较大提升空间,但也正因如此,才更值得关注。

硬件适配与落地

从硬件适配的角度看,DiffusionGemma的架构设计能够充分发挥英伟达GPU的并行计算性能。实测数据很能说明问题:在单块H100 GPU环境下,模型每秒可生成1000个文本单元;在DGX Spark设备上速率为每秒150个文本单元;在DGX Station设备上则可达到每秒2000个文本单元。整体速度约为同等运行条件下自回归模型的4倍——这不只是测出来的数字,而是实实在在能落地的性能红利。

值得一提的是,DiffusionGemma已按照Apache 2.0开源协议正式开放,开发者可以前往Hugging Face平台下载模型权重,进行二次开发与应用部署。这对整个端侧AI生态来说,是一个值得跟进的重要信号。

来源:https://news.mydrivers.com/1/1128/1128945.htm

相关热点

继续查看同栏目近期热点。

延伸阅读

补充最近整理过的热点入口。