3月16日，澎湃新闻记者获悉，月之暗面Kimi发布了一份技术报告，其内容对大模型十年来未曾改变的核心结构——残差连接——进行了重新设计。新的设计使得模型在每一层都能选择性地关注此前各层的输出，而非进行简单的统一求和。这一改进让48B模型的训练效率提升了1.25倍，被行业专家解读为提前揭示了下一代模型的关键模块。这项研究由月之暗面三位联合创始人杨植麟、吴育昕、周昕宇带领数十名研究人员共同完成。论文发布后，马斯克评价Kimi的研究令人印象深刻，前OpenAI科学家Andrej Karpathy则表示该研究真正践行了“Attention is All You Need”的理念。被誉为“推理之父”的前OpenAI研究副总裁Jerry Tworek则认为，这或许意味着深度学习2.0时代正在到来。（澎湃新闻记者 范佳来）
Kimi技术报告获马斯克点赞，揭秘杨植麟等创始人幕后布局
3月16日，澎湃新闻记者获悉，月之暗面Kimi发布技术报告，对大模型十年没有变化的核心结构残差连接行重新设计，使每一层能够选择性地关注此前各层输出，而非统一求和，48B模型训练效率提升1 25倍，被
来源：https://www.163.com/dy/article/KO66I5M40514R9P4.html
本站内容用于信息整理与展示，如有侵权或内容问题请及时联系处理。
相关推荐
补充同频道和同主题内容，方便继续浏览更多相关内容。
同类最新
继续查看同栏目最近更新的文章。
OpenClaw手机App上线，结果翻车了
OpenClaw 官方宣布，已正式推出 iOS 和 Android 原生移动 App，用户如今可以在手机上使用这款主打“能真正帮你做事”的个人 AI 助手。官方在 X 上给出的定位也很直接：把 Agent 放进口袋里，让用户可以在移动端处理频道消息、任务和回复。从功能上看，OpenClaw 移动端并
优必选CEO周剑：家庭机器人生态核心投入过半精力
先说几个核心判断：优必选正在布局一盘长远战略。创始人兼CEO周剑在近期一场媒体沟通会上，直接亮出了公司未来的发展路线——工业、商用、家庭陪伴机器人三条业务主赛道并行推进，现阶段每条线各占约一半精力。一边是已经能够稳定创造收入的工业场景，另一边则是他眼中“最具想象力与未来空间”的家庭陪伴领域。工业人形
CPO/NPO/OIO开启封装级光连接价值空间，技术路线尚未收敛
6月30日，申银万国在光连接系列研报中重点指出，MPO光连接器领域的投资机会值得高度关注。通俗来说，随着AI算力集群持续扩张，光互联升级带来的连锁效应——数据中心光纤通道数量、前面板端口密度、机柜内光纤管理复杂度——均在同步攀升。光连接器的角色早已超越传统的低价值标准件，如今它直接决定着链路插损、可
龙岗AR实景剧本游内测体验短板有效破解之道
在今年龙岗区第二届人工智能与机器人发展大会上，区级部门一次性推出了7个AI“龙搭子”。其中，名为“龙导游”的成果成为文商旅融合领域的核心亮点。据南都N视频记者了解，依托“龙导游”打造的全区全域AR实景剧本游“龙岗大陆”，已在今年五一假期发布了内测版本。经过一个月市场验证后，该项目正式启动面向全社会的
南下资金6月30日净买入中芯国际与建滔积层板
6月30日，南下资金持续大举买入港股，单日净流入金额高达58 95亿港元。接下来，我们直接盘点哪些个股获得资金青睐、哪些遭到减持： 净买入方面，中芯国际领跑全场，单日吸金19 33亿港元；建滔积层板紧随其后，净买入10 59亿港元；腾讯控股获得7 65亿港元净流入；智谱（02513 HK）也有6 5