别TM浪费算力了,这样才能最大限度发挥deepseek的潜能 - MOE(第3讲)
最近几周我自学了deepseek的原理、应用和实践,现在和大家分享一下我的成果:
关于小众关心的deepseek核心技术原理;关于大众关心的提示词如何编写。今天我们来聊聊deepseek的核心机制之一——混合专家(MOE)。
什么是混合专家(MOE)?
混合专家(Mixture of Experts)是一种不再追求大而全,而是追求多而专精的模型思路。它会将任务动态路由给各个领域的专家,并将各个专家的输出进行组合。
这个概念可能有点抽象,举个容易理解的例子。
大而全模型:全栈工程师。
混合专家模型:Java工程师、前端工程师、测试工程师、数据库管理员、运维工程师...
大而全模型有什么不足之处?
训练时间长:培养一个“全栈”工程师需要很长时间;计算性能差:面对一个产品需求,设计、编码、上线的周期较长;回复不深入:什么都懂,但都不精,往往浅尝辄止。而混合专家模型则能够很好地解决上述几个问题:
培养一个Java工程师的周期更短;需求评审后,Java、前端、测试等多个专家可以并行设计、编码、上线;Java、前端、测试等专人专岗,专业性更高。有了MOE之后,对LLM的架构有哪些影响?
在学习与训练阶段:
之前:追求多参数。
如今:训练多个专家(例如:1万个专家,每个专家单一职责SRP)。
在计算与执行阶段:
之前:收到提示词input,直接开始处理。
如今:
先判断需要几个专家(分类任务,很容易);动态路由(需要一个门控网络作为协调者,Gating Network),分发任务给专家,专家并行计算;组合专家输出,协调者再统筹输出。input[提示词] --> 专家分类{专家E1E2...En}
门控网络 --> E1E2...En
E1 --> O1[输出1]
E2 --> O2[输出2]
...
En --> On[输出n]
O1O2...On --> 统筹输出[output]
MOE对我们写提示词,获取更佳的回答质量有什么启示呢?
如果觉得AI回复缺乏深度,可以明确告诉它,你希望它扮演什么专家角色来回答问题。
画外音:模型分类出来的专家角色不一定100%准确。
bad case:如何设计高并发高可用系统?
这样的提示词,你会得到一个泛泛而谈的回答。
good case:假设你是由以下专家组成的团队:
分布式领域系统架构师电商领域业务架构师资深DBA请分别从各自领域提出5项技术选型建议,并组合设计方案满足每秒10万次交易,数据满足最终一致性,故障恢复时间小于30秒的系统。
节省训练资源,缩短回复时间,提升回答质量,多个专家还能够交叉验证(大而全模型可能过拟合),deepseek创新性使用MOE之后,很快就得到了业界的广泛认可与复制。
deepseek,流弊!
总结:
MOE是deepseek的核心创新应用之一;从此大模型从“大而全”转向“多而精”;通过在提示词中明确指定deepseek的专家角色,能够最大化发挥MOE的潜力。一切的一切,提示词只有适配了AI的认知模式,才能最高效地发挥最大的作用。
知其然,知其所以然。
思路比结论更重要。
补充阅读材料:
《MOE简述》
https://www.php.cn/link/8b78421d9ab29962ef6082f8233fbcec
相关攻略
DeepSeek融资额达700亿元,明确优先投入突破性AI研究。传闻中的DeepSeekCode产品已获证实,正由资深研究员牵头组建团队招聘。前TSYCapital联合创始人、ACM金牌得主崔添翼或将出任AgentHarness团队负责人。一系列招聘信号表明,公司正围绕智能体能力密集布局,其自有代码产品已进入实质性推进阶段。
火山引擎火山方舟平台推出CodingPlan和AgentPlan订阅服务,新增DeepSeekV4系列模型调用。订阅套餐显著降低成本,最高可节省超80%,并提供多模态模型与Harness工具的一站式整合,支持图形化界面操作,便于开发者构建和部署智能体应用。
加载已量化的GPTQ权重时需确保transformers版本≥4 40,并安装兼容的auto-gptq。自行量化需调整group_size参数并使用充足的中文校准数据。AWQ量化对硬件要求较高,需注意显存限制和特定参数设置。量化后推理应保持KV缓存精度,避免长文本生成错误。
使用DeepSeek生成PPT大纲时,需明确要求采用Markdown格式: 作封面标题, 作章节标题, 或-列要点,并指定流程型等逻辑结构以增强条理。生成后在大纲视图中粘贴并保留源格式即可正确分页。通过限定页数或内容深度可有效控制输出规模。
AI领域领军企业DeepSeek(深度求索)近日正式宣布进军代码智能体(Coding Agent)市场。根据其官方网站及资深研究员陈德里披露的信息,DeepSeek内部已成立代号为“Harness”的专项团队,致力于研发一款桌面端智能编程助手。据悉,该产品的核心对标对象正是行业标杆——Anthrop
热门专题
热门推荐
洞察市场先机:SOL合约持仓量深度解析与实战应用 在瞬息万变的加密货币衍生品市场,SOL合约持仓量如同一张实时绘制的“资金热力图”。它不仅揭示了多空双方投入的真实资本规模,更映射出市场情绪的微妙变化与潜在的趋势转折点。对于精明的交易者而言,掌握解读这张“地图”的能力,意味着能在市场博弈中抢占信息高地
《像素秘境·唤灵师》可通过九游APP或官网下载。在九游APP搜索游戏名即可预约并获取最新版,官网专区也提供高速与普通下载选项。两种方式均能便捷安装,专区还附有游戏攻略供参考。
车市价格战正处微妙临界点。二季度起,一股与以往降价潮不同的涨价暗流开始酝酿。截至五月中旬,至少15家主流新能源品牌已释放调价信号,或直接涨价,或收紧优惠,涉及比亚迪、特斯拉、蔚来等传统及新势力车企。
说起《上古卷轴5:重制版》的主线旅程,奥杜因克星任务绝对是一座绕不开的高峰。它不仅是叙事的关键转折点,更是一场对玩家策略、操作与耐心的综合试炼。想要征服这条恶龙,光有勇气可不够,一份清晰的行动路线图至关重要。接下来,我们就一起梳理一下这场终极对决的核心脉络与实用技巧。 一、剑指目标:前往奥杜因克星的
SOL合约限价单的最小价格单位是0 001美元。该单位是交易时报价的最小变动值,直接影响订单的精确性与灵活性。了解此规则对合约交易者有效设置订单和管理策略至关重要。





