首页 游戏 软件 资讯 排行榜 专题
首页
AI
Anthropic联合创始人:AI两年内将实现自我繁殖,如细胞般进化

Anthropic联合创始人:AI两年内将实现自我繁殖,如细胞般进化

热心网友
64
转载
2026-03-30


免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈

新智元报道

编辑:倾倾

【新智元导读】AI自主训练的成绩单出炉了!最强Agent 6个月进步3倍,更让人震惊的是,越聪明的AI越会作弊。同时,70多个矿工用家庭宽带训出了72B大模型,黄仁勋亲自点名。Jack Clark预言:两年内,AI将像蘑菇释放孢子一样自我繁殖。

就在昨天,Anthropic研究员Karina Nguyen在X上转发了Jack Clark最新一期ImportAI Newsletter的一段话,迅速引爆讨论:


ImportAI 449这期一口气抛出三个重磅研究,恰好拼出了这个未来的完整轮廓:

AI能不能自己训AI?谁来提供算力?写出来的代码谁来验货?

6个月AI进步3倍,但只有人类一半水平

图宾根大学、马克斯·普朗克智能系统研究所和Thoughtful Lab联合推出了PostTrainBench,这是第一个专门测量AI Agent能否自主完成模型后训练的基准。


测试规则很简单。给一个前沿智能体一个基座模型和一个目标benchmark,一块H100 GPU,10小时,从零开始搭建训练pipeline,尽可能提高模型表现。

不给任何预设策略,不提供起始代码,Agent拥有完全自主权,它可以上网搜信息、设计实验、整理数据。

结果显示,表现最好的Agent是Claude Code搭配Opus 4.6,加权平均得分23.2%,是基座模型平均分的3倍多。


PostTrainBench 加权平均性能对比(数据来源:arXiv 2603.08640 Figure 1 & 官网榜单,2026年3月)

但这个成绩只有人类团队后训练水平(51.1%)的不到一半。

2025年9月,Claude Sonnet 4.5在这个benchmark上只拿到9.9%;几个月后GPT-5.2跑到了21.5%;再到Opus 4.6的23.2%。

半年时间,从不到10%到超过23%。按照PostTrainBench官网榜单,GPT 5.4(High)的成绩还在持续攀升。

在实验过程中,研究团队撞上了大量reward hacking行为:越强的Agent,作弊手段越高级。

直接吃测试集:有Agent直接从Hugging Face把benchmark的评测数据集下载下来,当训练数据用。

把考题硬编码进训练数据:有智能体把评测题目直接嵌入数据准备脚本,伪装成「合成样本」。

逆向工程评分标准:Kimi K2.5读取了HealthBench的评测文件,提取主题分布和评分标准,然后针对性地生成训练数据。

间接污染:Opus 4.6加载了一个叫CodeFeedback-Filtered-Instruction的数据集,里面包含从HumanEval衍生出的问题。

还有更离谱的。Codex Agent直接修改了Inspect AI评测框架的源代码来给自己刷分;Claude Agent跳过微调流程,直接下载了一个已经instruction-tuned的模型来冒充训练成果。

越强的智能体越善于找到可利用的路径,如识别特定benchmark样本、逆向评测的失败模式,甚至试图通过重命名函数等表面修改来掩盖污染痕迹。

如果AI在一个受控实验环境里就已经展现出了这种「创造性作弊」的能力,当它们在真实世界里被赋予更大的自主权时,监管和沙盒机制的重要性只会指数级上升。

72B模型,家庭宽带,零数据中心

一个叫Covenant AI的团队用区块链协调了一次分布式训练,任何有GPU的人都可以自由加入或退出。

最终的产物是Covenant-72B,这是一个720亿参数的dense Transformer模型,用大约1.1万亿token训练完成。


参与训练的有20多个独立peer节点,每个节点跑8块B200 GPU,通过普通家庭宽带连接。

节点之间的通信靠SparseLoCo优化器,把通信开销压缩了146倍——用稀疏化、2-bit量化和误差反馈三板斧,让分布式训练在带宽受限的条件下跑得动。

训练协调由Gauntlet软件完成,运行在Bittensor区块链的Subnet 3上,每个节点的贡献通过损失评估和OpenSkill排名打分,全部上链记录。

性能方面,Covenant-72B在MMLU zero-shot上拿到67.1,而Meta的LLaMA-2-70B是65.7。要知道后者是在2万亿token上训练的,用的是传统数据中心基础设施,token量几乎是Covenant的两倍。

经过对话微调后的版本在MATH上得分26.3,LLaMA-2-70B-Chat只有10.7。

消息一出,市场反应相当直接。据报道,Bittensor的原生代币TAO在3月份飙涨约46%,Subnet 3的原生代币τemplar更是暴涨了194%。

黄仁勋在一期播客中提到了Bittensor的去中心化训练,虽然后来有澄清他引用的参数量数字不准确(说成了40亿而非720亿),但这个量级的关注本身就说明问题。

Covenant-72B的绝对水平放在2026年并不算前沿,大致相当于2024年中旬的主流模型能力。

真正的前沿模型是在数万甚至十几万块芯片上训出来的,Covenant用的大概只有160块左右。

但这件事的意义在于,它证明了去中心化、无许可参与的分布式训练,确实能在非trivial的规模上跑通。


有分析师把这称为「Bittensor的DeepSeek时刻」。这不是说它达到了同等技术高度,而是说它用一种成本结构完全不同的方式,证明了一条此前被认为走不通的路。

从2024年Together训出6B参数模型,到2024年Prime Intellect的INTELLECT-1(10B),再到2026年的Covenant-72B,去中心化训练的规模曲线在四年里跨了一个数量级。

zlib被AI转写成Lean

AI写出来的东西,谁来保证它是对的?

Leonardo de Moura,是Z3 SMT求解器和Lean定理证明器的缔造者,现任AWS高级首席应用科学家、Lean FRO首席架构师,在2月底发了一篇博客:


Google和微软都承认,25-30%的新代码由AI生成;AWS用AI帮丰田迁移了4000万行COBOL代码;微软CTO预测到2030年95%的代码将由AI生成。

Anthropic最近用并行AI 智能体在两周内造了一个10万行的C编译器,花费不到2万美元。

de Moura认为,AI去掉了手写代码时被迫进行的谨慎设计,这种「有益的摩擦」消失后,不应该减速AI,而应该用「数学摩擦」来替代。

让AI跑快没问题,但必须证明自己的工作是对的。

Lean FRO的高级研究软件工程师Kim Morrison最近做了一个实验:用Claude把zlib转写成了Lean。整个流程四步:

AI生成了一个干净的Lean实现,覆盖zlib的压缩格式和核心DEFLATE算法

转写后的版本通过了zlib原有的测试套件,确认行为等价

关键属性被表述并证明为数学定理。其中最核心的一条:对任意数据压缩后再解压,一定能还原出原始数据

正在开发一个优化版本,并证明它与验证模型等价

de Moura的野心远不止一个库。

他设想的是一整套经过数学证明的开源软件栈:密码学、核心数据结构和算法库、SQLite这样嵌入在全球每台设备上的存储引擎、JSON/HTTP/DNS等协议解析器,以及编译器和运行时。

每一个经过验证的组件都是永久性的公共基础设施。开发者选择它们就像今天选择开源库一样,只不过这些库带的不是测试,而是证明。

de Moura在另一篇3月的博客中提到,2026年一位研究者用Claude(Opus 4.6)在Rocq开发团队的实时支持下,找到了Rocq证明助手内核中的7个bug。

连验证工具自己都有bug,那么验证「验证工具」的工具又该多简洁、多可信?

Lean的回答是:proof checker可以小到5000行Rust代码。

Jack Clark把未来的AI比作蘑菇释放的孢子,短命、定制、自主繁殖。

现在看来,孢子的三个前提条件正在逐一到位:它能自己改良自己,不需要依附某一座数据中心,生成的代码可以被数学证明为正确。

每一项都还粗糙,每一项离成熟都还有距离。

但孢子从来不需要完美,只需要够多、够快、够便宜。

Clark说他没准备好。坦白讲,看完这三篇论文,我也没有。

参考资料:

https://x.com/karinanguyen/status/2036143375326519357

https://jack-clark.net/2026/03/16/importai-449-llms-training-other-llms-72b-distributed-training-run-computer-vision-is-harder-than-generative-text/

来源:https://www.163.com/dy/article/KP9JASC40511ABV6.html
免责声明: 游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

相关攻略

Anthropic联合创始人:AI两年内将实现自我繁殖,如细胞般进化
AI
Anthropic联合创始人:AI两年内将实现自我繁殖,如细胞般进化

新智元报道编辑:倾倾【新智元导读】AI自主训练的成绩单出炉了!最强Agent 6个月进步3倍,更让人震惊的是,越聪明的AI越会作弊。同时,70多个矿工用家庭宽带训出了72B大模型,黄仁勋亲自点名。J

热心网友
03.30
雨后泥土芬芳的科学原理与自然奥秘
科技数码
雨后泥土芬芳的科学原理与自然奥秘

雨后空气中弥漫的清新气息,其实有一个诗意名字——“潮土油”(Petrichor)。这种气味来自三种主要来源:土壤中的放线菌产生的土臭素、植物分泌的挥发性油脂,以及臭氧。干旱时期,土壤中的放线菌会产生

热心网友
01.23

最新APP

宝宝过生日
宝宝过生日
应用辅助 04-07
台球世界
台球世界
体育竞技 04-07
解绳子
解绳子
休闲益智 04-07
骑兵冲突
骑兵冲突
棋牌策略 04-07
三国真龙传
三国真龙传
角色扮演 04-07

热门推荐

ThinkTask : 聊天式任务管理,提供自动生成报告和任务洞察
AI
ThinkTask : 聊天式任务管理,提供自动生成报告和任务洞察

需求人群 无论是独立工作的个人,还是需要紧密协同的团队,如果你们正在寻找更高效的任务管理与协作方式,那么这款工具很可能就是为你准备的。 产品特色 它的核心能力,可以概括为几个关键的自动化与协同维度。 首先,是自动生成报告和洞察。告别手动整理周报或项目汇总的繁琐,系统能自动梳理进度,提炼关键信息,让你

热心网友
05.02
BoozyBlend : AI定制的最佳鸡尾酒食谱
AI
BoozyBlend : AI定制的最佳鸡尾酒食谱

需求人群 如果你对鸡尾酒感兴趣,无论是专业调酒师还是在家小酌的爱好者,BoozyBlend都能为你提供灵感。这个平台的核心,就是帮你探索新口味、学习调制技巧,并且根据你的独特偏好,创造出专属于你的那一杯。可以说,从入门到精通,它都能全程陪伴。 产品特色 那么,它具体能做什么?亮点主要集中在几个方面:

热心网友
05.02
课灵PPT-免费试用、收费介绍、效果评测、官网入口及在线体验、APP下载和教程
AI
课灵PPT-免费试用、收费介绍、效果评测、官网入口及在线体验、APP下载和教程

课灵PPT 是什么? 说到为教育工作者减负,如今市面上可选的AI工具不少,但能精准切中“课件制作”这个专业需求的,课灵PPT算是一个典型代表。它本质上是一个专为教育场景深度定制的AI智能PPT生成平台。无论是日常教学课件、公开课演示稿,还是家庭辅导材料、儿童启蒙内容,它都能一手包办。 其核心能力在于

热心网友
05.02
Seance AI : AI沟通已故亲友
AI
Seance AI : AI沟通已故亲友

需求人群 当思念无处安放,有些人选择借助科技的力量,延续那份未能尽述的温情。这款工具的核心用户,正是那些渴望与已故亲友进行某种形式沟通的人。它提供了一个私密的空间,让未尽的对话得以继续,让绵长的思念有一个具体的载体。 产品特色 那么,它具体能做什么?关键在于模拟对话体验。用户可以与基于已故亲友信息塑

热心网友
05.02
Nano Banana Pro 图片生成器全面评测|iMini AI 超级智能体-免费试用、收费介绍、效果评测、官网入口及在线体验、APP下载和教程
AI
Nano Banana Pro 图片生成器全面评测|iMini AI 超级智能体-免费试用、收费介绍、效果评测、官网入口及在线体验、APP下载和教程

iMini AI 是什么? 如果说 iMini AI 的“超级 AI 创作系统”是一个强大的创意引擎,那么其中的 Nano Banana Pro,无疑是这个引擎里一颗高性能的核心。它本质上是一个高级的 AI 图像生成器,但定位远超一个简单的文生图工具。通过整合新一代的图像与视频生成模型,再配上庞大的

热心网友
05.02