输入一个热词,快速查看术语含义、常见场景和相关概念。
集中展示常见热词解释,方便按概念和场景继续浏览。
MoE(Mixture of Experts,混合专家模型)是一种通过多个子模型(专家)共同解决问题的架构。每个专家负责处理特定类型的数据,由一个门控网络决定哪些专家参与当前任务。这种设计能在不显著增加计算成本的同时扩大模型容量,是GPT-4、Mixtral等大模型性能提升的关键技术之一。
近期常被查询的 AI 概念。