游乐游手机版
首页/科技数码/文章详情

Yann LeCun团队开源首个代码世界模型,实现编程自主学习

时间:2025-12-12 12:01
刚刚,Meta FAIR推出了代码世界模型! CWM(Code World Model),一个参数量为32B、上下文大小达131k token的密集语言模型,专为代码生成和推理打造的研究模型 这

重磅发布!Meta FAIR团队推出革命性编程模型——代码世界模型CWM

CWM(Code World Model)作为32B参数量的密集语言模型,具备131k token的超长上下文能力,专为代码生成与推理优化。这是全球首个将世界模型理念系统应用于代码生成的AI模型。

CWM模型架构图

突破性能力:让AI真正理解代码运行状态

与现有代码模型相比,CWM的核心差异在于它不仅能够生成代码、理解语义,更能够模拟代码执行时的变量状态变化和环境反馈。这使得它在代码理解、调试和规划方面的能力获得质的飞跃。

CWM性能表现

技术亮点解析

1. 代码执行模拟:能逐行预测变量状态变化,识别潜在错误

2. 自我调试修复:可自动构造测试用例并进行多路径修复

3. 高级推理规划:处理竞赛编程问题时展现多轮逻辑推理能力

CWM运行原理

模型详细信息

架构:64层decoder-only Transformer

参数规模:32B

上下文长度:131k tokens

CWM性能评测

训练流程

1. 预训练阶段:8T tokens数据,30%代码占比

2. 中期训练:5T tokens世界建模数据

3. 后训练阶段:SFT+多任务RL训练

CWM训练过程

使用须知

定位:研究用途,非对话型模型

许可:仅限非商业研究

语言支持:目前仅支持Python

来源:https://36kr.com/p/3481884408716425
上一篇法德六代机合作遇阻,达索声称将独自研发 下一篇iQOO Z10 Turbo+首配8000mAh电池,144Hz护眼屏旗舰体验
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
云米科技CEO奖励员工小米YU7 期待未来再奖励更多台
科技数码 · 2026-07-08

云米科技CEO奖励员工小米YU7 期待未来再奖励更多台

云米科技创始人兼CEO陈小平通过社交平台正式揭晓了公司年会上的“重磅大奖”:一辆小米YU7汽车,专为表彰一位长期服务核心客户、始终坚守岗位并成功推动项目实现关键突破的员工。获奖理由简洁而有力——“尽职尽责、持之以恒”。陈小平在现场还定下目标:“希望到2026年,能送出更多台车。” 这句话,既是对员工

腾讯开源Node模块联邦方案hel-micro-node
科技数码 · 2026-07-08

腾讯开源Node模块联邦方案hel-micro-node

腾讯近日正式发布开源项目 hel-micro-node,作为 hel+ 生态体系中的核心组件,专门为 Node js 运行环境量身打造,旨在提供一种轻量化、高效率且易于使用的服务端模块联邦解决方案。与同类产品 @module-federation node 相比,hel-micro-node 在功能

doc个人图书馆因业务调整无偿转让寻找接管方
科技数码 · 2026-07-08

doc个人图书馆因业务调整无偿转让寻找接管方

日前,知识分享平台“360doc个人图书馆”正式对外发布官方公告。自2005年上线以来,这一经典数字图书馆已稳健运营整整二十年,累计服务用户超过八千万,沉淀文章数量突破十一亿篇。作为国内知名的免费知识管理公益平台,它不仅承载了无数人的智慧积累与珍贵记忆,更在个人知识存档与内容管理领域保持了独特的品牌

iPhone Air 2最新传闻 散热与双扬声器及双摄成重点
科技数码 · 2026-07-08

iPhone Air 2最新传闻 散热与双扬声器及双摄成重点

细想起来,距离苹果那款备受期待的超薄系列新机——我们暂时称之为iPhone Air 2——正式亮相,其实已经不到一年了。产业链上陆续传出的消息都在暗示,苹果这次决心放一个大招,在散热、音频、影像这几个核心体验上动真格的。 iPhone Air 销量与市场反响 此前不少舆论认为初代iPhone Air

上海交大今日正式发布自研光学垂直大模型
科技数码 · 2026-07-08

上海交大今日正式发布自研光学垂直大模型

光学领域最近迎来了一位重量级新成员——上海交通大学正式推出了面向光学垂直方向的大模型Optics GPT。官方将其定义为一位“数字光学顾问”,听起来可能有点抽象,但说白了,就是让一个AI系统把光学领域的所有核心知识吃透,然后能稳稳当当地帮科研、工程和教学解决问题。 如果拿ChatGPT这类通用大模型