游乐游手机版
首页/科技数码/文章详情

Kimi K3部署能力突破英伟达生态并完成45纳米推理芯片原型设计

时间:2026-08-03 09:53
月之暗面开源KimiK3模型,总参数2 8万亿,激活1040亿,采用MoE架构与KDA注意力机制,支持百万上下文。在多项基准测试中超越多数开源与闭源模型,部署能力突破英伟达生态,自主完成GPU内核优化及MiniTriton编译器,并基于45纳米工艺完成推理芯片原型设计。同步开源MoonEP、FlashKDA及AgentEnv三项基础设施。
7月27日晚间,月之暗面在Hugging Face平台正式发布了Kimi K3的完整模型权重,并同步公开了详细的技术报告,以及三项支撑模型训练的关键基础设施技术——MoonEP、FlashKDA和AgentEnv。此次开源采用了修改版MIT许可证,开发者可直接下载、修改并本地部署,准入门槛极低。 首先来看几项关键数据:Kimi K3的总参数量达到2.8万亿,激活参数为1040亿,这使其成为全球首个迈入3万亿参数级别的开源模型。架构上采用混合专家(MoE)路线,拥有896个路由专家,每个Token仅激活16个。同时整合了自研的Kimi Delta Attention(KDA)混合线性注意力机制与Attention Residuals(注意力残差)技术,原生支持视觉理解,上下文窗口达到100万Token。与上一代Kimi K2相比,整体扩展效率提升约2.5倍。
根据技术报告,Kimi K3在编程、智能体、推理与视觉等数十项基准测试中,表现超越了所有开源模型,甚至多数闭源模型。在Arena Intelligence的WebDev Arena中,Kimi K3以1679 Elo登顶,成为首个在该榜单夺冠的开源模型;Artificial Analysis Intelligence Index v4.1得分57.1,排名全球第四。当然,报告也坦诚指出,整体性能仍略逊于Claude Fable 5和GPT-5.6 Sol。 这次开源最引人注目的并非参数规模本身,而是Kimi K3在GPU与芯片算力层面展现出的自主工程能力。 技术报告显示,在GPU内核优化测试中,Kimi K3在24小时内独立完成了AttnRes、DeepSeek Sparse Attention、KDA和MLA这四种代表性内核的优化。其中,AttnRes的延迟从283.6毫秒降至114.4毫秒,DSA和KDA的运行时间分别减少了55.1%和73.6%,MLA更是接近峰值TFLOPS。该表现与Claude Fable 5持平,但明显优于Claude Opus 4.8、GPT-5.6 Sol和GPT-5.5。 需要特别指出的是,测试环境覆盖了NVIDIA H200,同时也包含了来自其他供应商的GPGPU。这意味着,Kimi K3的部署能力已不再局限于英伟达生态系统。 报告还提到,Kimi K3自主开发了一个名为MiniTriton的紧凑型GPU编译器,从Python前端到PTX代码生成,全链路均由模型完成。在NVIDIA L20上,其性能甚至超越了PyTorch eager、torch.compile和标准Triton的实现。
作为早期的概念验证,技术报告还披露了一个有趣的细节:Kimi K3在48小时自主运行中,基于开源EDA工具和Nangate 45nm工艺库,完成了一款推理芯片原型的设计、优化与验证。这块芯片面积仅4平方毫米,集成了146万个标准单元、0.277MB SRAM,以及带融合去量化的INT4 MAC阵列。它是一款由模型设计、为模型服务的芯片,标志着AI已具备从算法到硬件的全栈自主工程能力。 与模型权重同步开源的还有三项基础设施技术:MoonEP是为超大规模MoE设计的高性能专家并行通信库,可实现完美负载均衡;FlashKDA是KDA注意力机制的高性能算子,在英伟达H20上的预填充速度相比基线提升了1.72到2.22倍;AgentEnv是与KVCache.ai合作开发的智能体沙箱系统,支持快速快照、恢复与Fork,主要面向大规模Agent训练环境。 月之暗面表示,本次开源旨在加速前沿智能的部署与普及,促进AGI研究。随着Kimi K3完整权重、技术报告及核心Infra技术的同步开放,开源大模型已正式迈入2.8万亿参数阶段。
来源:https://www.163.com/dy/article/L2TN689H0519DDQ2.html
上一篇瑞士Hoshii研发连接ERP的AI助手提升订单效率 下一篇贝索斯亚马逊申请发射5105颗卫星2028年普通手机直连
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
2026中国航空产业大会10月底南昌启幕:首次与航博会同期举办,聚焦低空经济新路径
科技数码 · 2026-08-31

2026中国航空产业大会10月底南昌启幕:首次与航博会同期举办,聚焦低空经济新路径

2026中国航空产业大会与南昌航空产业博览会将于10月31日至11月4日在南昌国际博览城首次同期举办。大会聚焦低空经济,设置主旨报告、行业专家报告及低空产业洽谈会等主题活动,旨在探讨航空产业新路径,推动低空物流、城市巡检等新业态集聚,打造中部领先、全国知名的航空产业交流高地。

联想来酷Air 16酷睿5 315版开售:国补后3739元,16英寸轻薄本选购指南
科技数码 · 2026-08-28

联想来酷Air 16酷睿5 315版开售:国补后3739元,16英寸轻薄本选购指南

联想来酷Air 16酷睿5 315版于8月27日正式开售,搭载6核处理器与12GB内存,配备16英寸16:10屏幕。叠加国家补贴后预估到手价仅3739 15元,主打长续航与静音办公。本文详细解析其硬件配置、接口布局及购买建议,助您快速决策。

牛来AirPods保护套海外走红:萌趣硅胶设计引发关注
科技数码 · 2026-08-28

牛来AirPods保护套海外走红:萌趣硅胶设计引发关注

一款名为“牛来”的AirPods硅胶保护套在日本市场引发关注,售价约1726日元。其独特的搞怪萌趣造型、兼容多代机型的硅胶材质以及专属挂饰设计,使其在社交平台上迅速走红,成为近期备受瞩目的国产原创数码周边产品。

行李箱选购全攻略:材质、轮子与尺寸避坑指南
科技数码 · 2026-08-28

行李箱选购全攻略:材质、轮子与尺寸避坑指南

选购行李箱时,材质、轮子和尺寸是核心决策点。PP材质抗冲击且轻便,适合频繁托运;万向轮决定推行顺滑度;尺寸需匹配航空限重。本文拆解关键参数,结合具体产品案例,助您选出耐用且实用的行李箱。

《湮灭之潮》成都试玩会:技嘉RTX 5080风魔显卡实测体验
科技数码 · 2026-08-28

《湮灭之潮》成都试玩会:技嘉RTX 5080风魔显卡实测体验

2026年8月《湮灭之潮》成都试玩会圆满举行,千名玩家现场体验西方奇幻大作。文章重点解析技嘉RTX 5080风魔显卡在虚幻5引擎下的表现,涵盖Blackwell架构、DLSS 4 5技术及16GB GDDR7显存对高画质流畅运行的支撑作用。