游乐游手机版
首页/AI热点日报/热点详情

谷歌发布DiffusionGemma文本扩散AI模型 本地推理速度提升4倍

类型:热点整理2026-06-13
近日,谷歌发布DiffusionGemma文本扩散AI模型,通过并行去噪方式生成文本,本地推理速度比传统自回归模型快4倍,性能与Gemma4持平,在代码生成和数学推理任务上表现优异,已按Apache2 0协议完全开源,供社区自由使用与探索。

谷歌近日正式推出了名为DiffusionGemma的全新开放人工智能模型。该模型采用创新的文本扩散机制,旨在解决传统大语言模型在本地设备上推理效率偏低的问题。官方数据显示,其本地推理速度相较于传统自回归模型提升了4倍,为端侧与本地AI应用带来显著的性能提升。

谷歌发布DiffusionGemma文本扩散AI模型,本地推理速度提升4倍

目前,包括GPT、Gemini在内的主流大语言模型多采用自回归架构,需按顺序逐一生成文本单元。这种模式在云端服务器上表现优异,但在本地设备上受限于硬件内存带宽,容易导致计算资源浪费与速度瓶颈。DiffusionGemma则另辟蹊径,采用扩散模型的技术路线。

扩散机制带来并行处理优势

DiffusionGemma的核心创新体现在其生成方式上。它摒弃逐一生成本文单元的传统方法,转而通过对噪声逐步去噪,并并行处理全部文本单元以完成内容生成。这种并行化处理方式可同步优化整体输出效果,且完美适配本地低带宽运行环境,从而实现速度上的巨大飞跃。

性能表现与效率数据

在性能方面,DiffusionGemma的整体能力与同系列Gemma 4模型持平,兼顾高效推理与内容质量。模型支持生成过程的迭代纠错,输出内容的稳定性和一致性更强。其采样速率可达每秒1479个文本单元,单次生成耗时仅0.84秒,生成效率显著提升。

在具体性能测试中,DiffusionGemma展现了在多个领域的潜力。在代码生成方面,其在LiveCodeBench、BigCodeBench、HumanEval三项测试中分别取得30.9%、45.4%、89.6%的成绩,综合表现与Gemini 2.0 Flash-Lite相当。在数学推理的AIME 2025测试中,获得23.3%的得分,优于同期对比模型。

硬件适配与开源信息

在硬件适配性方面,DiffusionGemma的架构设计可充分发挥英伟达GPU的并行计算性能。实测数据显示:在单块H100 GPU环境下,模型每秒可生成1000个文本单元;在DGX Spark设备上速率为每秒150个文本单元;在DGX Station设备上则可达每秒2000个文本单元。整体速度约为同等运行条件下自回归模型的4倍。

据悉,DiffusionGemma已按Apache 2.0开源协议正式开放,开发者可前往Hugging Face平台下载模型权重,进行二次开发与部署。这为更多开发者在本地设备上部署高效AI模型提供了新的选择。

来源:驱动之家

相关热点

继续查看同栏目近期热点。

延伸阅读

补充最近整理过的热点入口。