谷歌DeepMind推出的全新开放模型DiffusionGemma,实际性能究竟如何?对于众多开发者和研究人员而言,最关注的是它是否能在自有硬件上顺畅运行,以及能带来多大的效率增益。NVIDIA近期宣布的首日支持,为这些疑问提供了清晰的解答。

NVIDIA宣布,其全线GeForce RTX GPU、RTX PRO平台以及DGX系统,均已全面支持DiffusionGemma模型。这意味着,无论是个人开发者还是企业级用户,都能立即在自己的NVIDIA硬件上部署和运行这一最新模型,无需冗长等待或繁琐适配。
模型架构与性能优势
DiffusionGemma模型基于Gemma 4架构构建,总参数量达25.2亿,但在推理过程中仅激活3.8亿参数,同时支持高达256K的上下文长度。其关键优势在于采用文本扩散架构,不同于传统自回归模型逐token生成的方式,它每一步可并行去噪多达256个tokens。这一设计在NVIDIA GPU上带来了约4倍推理速度提升。
硬件性能与部署方案
得益于NVIDIA Tensor Core架构与CUDA软件栈的深度优化,该模型无需额外调优即可展现出色性能。具体来看,在单块H100 GPU上,推理速度可达每秒1000 token;而在DGX Spark系统上,性能更是达到了每秒150个token。模型支持BF16和NVFP4精度格式,开发者可通过Hugging Face Transformers在RTX 5090或DGX Spark上快速进行原型验证,生产环境则推荐采用vLLM进行部署。
该模型以Apache 2.0许可证开源,支持文本与图像的多模态输入。其一大特点是,可完全在本地RTX或DGX平台上运行,无需联网,也无需按token付费,为数据安全与成本控制提供了有力保障。目前,该模型已获得Hugging Face Transformers、vLLM、Unsloth等主流框架的初始支持。对于Windows平台开发者,RTX 5090用户可立即下载体验;而需要进行大规模部署和微调的专业用户,则可选用RTX PRO 6000工作站或DGX Station来完成相关任务。
