游乐游手机版
首页/科技数码/文章详情

Meta推出推理验证技术:用CoT-Verifier定位AI错误根源

时间:2025-11-30 10:01
meta AI 实验室今天把 Llama3 1改造成推理“X 光机”——新模型 CoT-Verifier 正式登陆 Hugging Face,专门剖开链式思维(CoT)每一步的“电路轨迹”,让错误不

meta AI 实验室今日将 Llama3.1 升级为推理“X 光机”——全新模型 CoT-Verifier 已在 Hugging Face 平台正式发布,它能精准解析链式思维(CoT)的每一步计算逻辑,让错误在黑箱中无处遁形。

传统验证方法仅关注输出结果是否正确,而 meta 创新性地转换了视角:先让模型执行一次完整推理,再从每一步的归因图(attribution graph)中提取结构特征。团队发现,正确与错误推理路径在图谱结构上存在显著差异,如同两块电路走向完全不同的芯片板。通过在这些“图特征”上训练轻量级分类器,对错误步骤的预测准确率直接飙升至 SOTA 水平,且不同任务领域(数学、逻辑、常识)均呈现出独特的“故障图谱”,说明推理失效并非随机噪声,而是可量化、可分类的计算模式。

更关键的是,归因图不仅能“诊断”,还能“手术”。meta 在实验中对高可疑节点进行定向消融或权重偏移,成功将 Llama3.1 在 MATH 数据集上的准确率再提升 4.2 个百分点,且无需重新训练主干模型。换言之,CoT-Verifier 把推理纠错从“事后复盘”升级为“术中导航”。

模型现已开源,脚本支持一键复现。开发者只需将待验证的 CoT 路径输入 Verifier,即可获得每一步的“结构异常分”,并定位最可能出错的上游节点。meta 在论文结尾透露:下一步将把同样的图谱干预思路应用于代码生成、多模态推理等领域,让“白盒手术”成为 LLM 的新标配。

来源:https://www.itbear.com.cn/html/2025-11/1033383.html
上一篇Wine 10.20发布:集成VKD3D 1.18,稳定版明年1月推出 下一篇谷歌对微软反垄断调查启动一周后撤回,背后有何隐情?
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
年国家能源局充换电服务业用电量增速48.8%
科技数码 · 2026-06-29

年国家能源局充换电服务业用电量增速48.8%

2025年全社会用电量达103682亿千瓦时,同比增长5 0%。充换电服务业用电增速高达48 8%,信息传输与软件服务业增速17 0%。第三产业和居民用电对增长贡献率合计占一半。中国成为全球首个年度用电量超10 4万亿千瓦时的国家。

追风者 GLACIER ONE 360 S25 液冷散热器新品上市 联体风扇售价429元
科技数码 · 2026-06-29

追风者 GLACIER ONE 360 S25 液冷散热器新品上市 联体风扇售价429元

追风者冰川360S25液冷散热器售价429元,三联一体风扇便捷安装,冷头小体积纯铜底座噪音18dB,风扇转速300-2000RPM、风量75CFM、静压2 96mmAq,五年质保漏液包赔。

三星Galaxy Watch8用户反馈谷歌后台组件异常
科技数码 · 2026-06-29

三星Galaxy Watch8用户反馈谷歌后台组件异常

三星GalaxyWatch8、Watch5Pro、Watch6及Watch7用户反映,GooglePlayServices后台耗电异常,电量占比最高达99 97%,远超正常水平,严重影响续航。目前故障原因不明,谷歌尚未发布官方声明。

罗永浩批苹果iOS 27创新不足 盼新CEO改进
科技数码 · 2026-06-29

罗永浩批苹果iOS 27创新不足 盼新CEO改进

罗永浩批评苹果iOS27创新不足,称仅有双iPhone同号、音量分离等数十项细节改进,认为库克时代缺乏突破性创新,股市虽好但消费者只能被迫接受挤牙膏式升级。

年国产车出口710万辆,两家车企销量破百万
科技数码 · 2026-06-29

年国产车出口710万辆,两家车企销量破百万

2025年国产汽车出口总量达710万辆,同比增长21%。奇瑞以134万辆居首,比亚迪105万辆次之,上汽乘用车出口占比60%最高,长城出口51万辆。吉利、长安等主流品牌同步增长,小鹏、零跑等新兴品牌海外拓展加速。