输入一个热词,快速查看术语含义、常见场景和相关概念。
集中展示常见热词解释,方便按概念和场景继续浏览。
Expert Parallelism 是一种针对混合专家模型(MoE)设计的分布式并行策略,通过将不同专家网络分配到不同设备,实现稀疏激活下的高效计算与显存管理,是大规模MoE训练的关键技术。
近期常被查询的 AI 概念。