输入一个热词，快速查看术语含义、常见场景和相关概念。
集中展示常见热词解释，方便按概念和场景继续浏览。
ZeRO（Zero Redundancy Optimizer）是微软DeepSpeed库中的核心显存优化技术，通过将模型状态（参数、梯度、优化器状态）分散到多个GPU并动态回收冗余副本，大幅降低单卡显存占用。它使得原本需要数百张GPU训练的千亿参数模型，在更少设备上也能高效运行，是目前大模型预训练和微调的重要基础设施。
近期常被查询的 AI 概念。
