游乐游手机版
首页/AI热点日报/热点详情

Fable实战指南:AI新闻领域应用技巧

类型:热点整理2026-07-08
在一片祝贺声中——General Intuition和Shunyu Yao都带来了新模型,世界也在翘首以盼GPT-5 6 Sol Ultra的发布——人们却在争分夺秒地探索Fable 5的极限,生怕明天订阅补贴一结束就来不及了。 Thariq原本在写一个名为“Fable野外指南”的博客系列,恰好在模

在一片祝贺声中——General Intuition和Shunyu Yao都带来了新模型,世界也在翘首以盼GPT-5.6 Sol Ultra的发布——人们却在争分夺秒地探索Fable 5的极限,生怕明天订阅补贴一结束就来不及了。

Thariq原本在写一个名为“Fable野外指南”的博客系列,恰好在模型重新上线那天有一个主题演讲。于是他连夜把整个演讲内容全部推翻,重新组织了最迫在眉睫的见解,这份内容今天刚刚发布:

演讲分成四个部分(我的边看边评用斜体标注):

  • 0:00 引言与为Fable搭建舞台

  • 2:32 解锁Claude的束缚:理解模型行为

    • 模型的限制往往来自我们自己——“我们给它套的缰绳,以及我们提示它的方式”。所以面对新型模型时,我们理应拆除或更换这些缰绳和提示,来激发你原本永远看不到的新行为——因为你此前过度约束了模型(也就是束缚了它)。
    • 典型案例:大多数人已经认同Thariq关于HTML惊人有效性的观点。
  • 9:08 发现你的未知:在地图与领土之间航行

    • 这个主题已经在这里的博客中写过。
    • 与“解锁束缚”是近亲:如果说解锁束缚是清理过时的已知,那么这里就是找出你甚至不知道自己不知道的东西。
    • 最容易的技术:
      • 让Claude做一次“盲区扫描”,找出你的未知
      • 为“完全不同的设计方向”进行头脑风暴
      • “访谈我”——类似于/grill-me,但优先问高影响力的问题
      • 使用参考:比如在迁移场景中
      • 维护一个implementation-notes.md:记录那些替你做的、不明确的决策日志
      • “考考我”——确保我自己的理解
  • 14:29 应对失落感:反思编程效率的情感冲击

    • 你以前花几周做的事,现在几小时就完成了
  • 16:30 变得不理智:要求又好、又快、又便宜的结果

    • 权衡不存在”——因为Fable能力更强,你可以更雄心勃勃,不接受任何妥协。
    • “构建很容易,创造价值仍然很难”。

总的来说,这是一场非常精彩的演讲——随着世界逐渐适应第一批Fable级别的模型,我们将逐步梳理其带来的影响。

AI新闻 2026/07/04-2026/07/06。本期检查了12个子版块、544条推文,没有额外使用Discord。提醒:AINews现已纳入Latent Space版块。你可以随时选择接收或退订邮件频率。

AI Twitter 速览

腾讯混元Hy3发布,开源权重新前沿

  • Hy3正式成为严肃的开源模型:腾讯发布了Hy3,采用Apache 2.0许可,是一个295B MoE21B活跃参数),192专家/ top-8路由GQA256K上下文,以及3.8B MTP层用于投机解码。多方帖子称它在推理、编程和智能体任务上与更大的系统不相上下,尤其强调了工具调用稳定性和抗幻觉等可靠性改进 ——@eliebakouch, @HuggingPapers, @ShunyuYao12。

  • 推理支持出奇地成熟:@vllm_project表示Hy3从发布第一天就原生支持vLLM,包含工具调用和推理解析器、MTP投机解码,并在NVIDIA和AMD上验证通过。后续细节显示,腾讯的生产内核已经上游到vLLM主分支,包括负载均衡的解码调度和融合FP8 MoE服务,报告显示在混合长度解码上性能提升高达2.95倍,延迟降低约24% TTFT17% TPOT(相比默认后端)@vllm_project。社区反应强烈,@Teknium迅速将Hy3在Nous Portal上免费开放两周。

  • 更广泛的开源模型背景:Hy3立刻被拿来与GLM-5.2比较。一些人认为如果基准测试和氛围测试的结果成立,腾讯现在已跻身顶级开源实验室行列@teortaxesTex;另一些人则仍坚持GLM-5.2是目前实际可用的最佳开源权重模型@tinygrad, @mbusigin。核心结论:开源前沿正在快速收紧,竞争越来越集中在部署稳健性上,而非单纯的榜单分数差距。

智能体基准、框架与长时记忆

  • AutomationBench-AA 引入更真实的智能体评测:@ArtificialAnlys为Zapier的AutomationBench启动了一份独立榜单,评估智能体在657个任务40个模拟SaaS应用上的表现,同时设有目标和防护栏。Claude Fable 548.6%领先,Opus 4.8紧随其后48.5%Gemini 3.5 Flash42.6%GPT-5.5 xhigh42.1%。比排名更有趣的是:每个模型仍然会违反业务规则,而Gemini在每防护栏违规的目标达成率成本效率方面表现尤为突出。开源权重仍明显落后,GLM-5.2 max是榜单中最好的开源模型,仅为27.8%

  • 能力指数正变得多维:Artificial Analysis还引入了六个领域特定指数——财务与会计、法律、医疗健康、战略与运营、工程、经济——以超越单一标量模型评分@ArtificialAnlys。头条结论依然熟悉——Claude Fable 5加上Opus 4.8回退领先——但更有价值的洞察是排名如何按领域剧烈变动,以及价格/性能前沿变得多么陡峭。这@fchollet的观点一致:不考虑每个任务的成本而报告基准分数越来越没有意义。

  • 记忆和检索仍然是持久智能体的瓶颈:两篇论文引起了关注。首先是A-TMA,它解决了“幽灵记忆”问题——长时间运行的助手中过时和当前事实被一起检索出来;在LTP基准上,将其加入Graphiti后冲突准确率提升了+0.240绝对@omarsar0。其次是ReContext,一种无需训练的长上下文推理框架,在生成答案前重放模型内部的证据,在八个128K数据集上提升了证据利用@dair_ai。再结合BlockSearch用于百万token上下文内检索@dair_ai,主题很清晰:更好的记忆行为越来越多地在推理时通过工程手段实现,而不仅仅是依靠训练。

Anthropic的J-Space / 全局工作区研究

  • 机制可解释性成为焦点:Anthropic发布研究,声称Claude内部存在类似全局工作区的结构,以一小部分激活为核心——他们称之为J-space@AnthropicAI, @AnthropicAI。核心主张不是链式思维提取,而是识别出一个特权的内部表征基底,可用于报告、调制和灵活推理。Anthropic还为开源权重推出了Neuronpedia演示@AnthropicAI。

  • 为什么研究者在意:可解释性研究者认为,这比以往公开工作提供了更强有力的模型“工作记忆”或内部工作区证据,即使他们不同意其表述方式。@NeelNanda5称这是目前最有力的工作记忆机制证据。@Jack_W_Lindsey认为理解这个特权空间可能是理解LLM认知的关键。帖子还强调了实际安全角度:工作区据报道可以揭示隐藏概念、检测提示注入,并在它们被语言化之前暴露内部与破坏相关的特征 @mlpowered, @LiorOnAI, @omarsar0。

  • 但“意识”的表述引发争议:Anthropic的公开表述引发强烈反弹。支持者认为结果指向的是通达意识的功能类似物,而非现象意识@BorisMPower;而批评者认为公司通过将特权潜在激活与意识混为一谈而过度宣称@AlanCowen。即使是同情的观点也强调,更大的故事是用于审计和引导模型的新的干预点,而非哲学问题。

推理、服务与系统效率

  • 投机解码仍然是热门基础设施:@lmsysorg将DSpark加入SGLang,用于置信驱动的可变长度验证。其卖点是在高负载下避免验证每个草稿token,从而改善吞吐量/延迟的权衡(相对于固定预算的投机方法);DeepSeek-V4-Pro据报道在B300上batch=1时达到383.7 tok/s。微软还讨论了在GitHub Copilot框架中对GPT-5.5进行提示级优化,以在发布后改善延迟和token效率 @code, @pierceboggan。

  • 推理效率正日益成为战略瓶颈:@jon_durbin认为,推理(而非仅仅训练)现在就是“整个游戏”,因为每个数据管道、强化学习循环和智能体运行时最终都体现为测试时计算。这一视角也体现在更底层的核工作中:Chutes报告了对MiniMax MSAGatedDeltaNet-2的显著加速,包括在RTX Pro 6000 / SM120上稀疏注意力训练改进约7倍,以及更好的融合FP8内核@jon_durbin。

  • 基础设施发布不限于模型服务:Cloudflare推出Workers Cache,一个按区域分层的缓存,位于Worker入口点之前,通过标准HTTP头配置@Cloudflare。OpenAI推出GPT-Realtime-2.1-mini,将推理和工具使用引入mini实时线路,价格与上一代mini相同,同时缓存改进声称带来超过25%的p95延迟降低 @OpenAIDevs, @OpenAIDevs。

世界模型、语音与文档AI

  • MIRA是值得关注的世界模型演示:General Intuition和Kyutai联合Epic Games推出MIRA,一个基于1万小时机器人收集数据训练的、可多人玩的《火箭联盟》世界模型@gen_intuition。它以20 fps实时运行,帖子强调一个5B参数模型在单块NVIDIA B200上运行完整的2v2比赛,没有显式的物理或渲染引擎@TheRundownAI。这是最清晰的信号之一:视频/世界模型工作正从玩具演示迈向交互式模拟器。

  • 语音领域竞争依然激烈:AssemblyAI发布Universal-3.5 Pro Realtime,一个流式语音转文字模型,在AA-WER Streaming上达到4.1% WER,支持上下文提示,可在通话中更新而无需重新连接@ArtificialAnlys。在TTS方面,Artificial Analysis称Speechify Simba 3.2现在以1233 Elo领先其Speech Arena,超过Gemini 3.1 Flash TTS、Sonic 3.5和Inworld Realtime TTS 1.5 Max,同时还是排名靠前模型中最便宜的@ArtificialAnlys。

  • 文档上下文管道正默认变为多模态:LlamaIndex和LanceDB描述了一个针对杂乱PDF的检索管道,将页面、块和提取的资产分离到链接的多模态表中,在一个标注的ESG报告基准上报告82% any-page-hit@574% answer accuracy @lancedb, @llama_index。这与Jerry Liu关于智能体应有专用“文档上下文层”的更广泛观点一致@jerryjliu0。

热门推文(按互动量)

  • Anthropic的全局工作区论文主宰了互动量,关于Claude内部工作区/J-space的主要公告远高于其他内容@AnthropicAI。

  • 腾讯Hy3是最大的纯模型发布故事,尤其受到讨论开源竞争力与部署的技术账号关注 @teortaxesTex, @ShunyuYao12。

  • MIRA的可玩世界模型是突出的多模态/系统演示@gen_intuition。

  • Will Depue的“Stargate for Data”帖子是最实质性的战略帖,认为数据收集——而非仅仅算力——正成为前沿实验室的约束条件和潜在护城河@willdepue。

  • John Carmack的记忆系统帖子因提出推理硬件可以利用确定性访问模式和比HBM便宜得多的内存层级来服务大型模型而引发大量技术兴趣@ID_AA_Carmack。

AI Reddit 速览

/r/LocalLlama + /r/localLLM 速览

1. 大型开源权重MoE模型发布

  • longcat 2.0 (1.6T, 约48B活跃) 权重现在以MIT许可开放(活动量:638):LongCat 2.0权重现已通过elie和ModelScope的公告以MIT许可开放,技术细节在LongCat 2.0博客中。该模型是一个非常大的MoE系统,总参数量为1.6T,每次推理的活跃参数约48B;评论者指出发布的权重在BF16下占用约3.55 TB,在FP8下占用2.05 TB 评论者强调了多TB权重的实际部署负担,并指出美团——被描述为中国版Groupon/Uber Eats——据报道完全使用国产芯片训练了它,引发了关于地缘整治/市场意义的讨论。

    • 评论者强调了LongCat 2.0的规模和部署足迹:总参数1.6T,活跃参数约48B,暗示了稀疏/MoE架构。一位用户注意到发布的权重在BF16下需要约3.55 TB,在FP8下需要2.05 TB,这对任何规划本地存储或推理基础设施的人都很重要。

    • 提出的一个技术点是美团据报道在100%国产芯片上训练了该模型,评论者认为这对AI硬件供应链独立性有重要意义。考虑到美团是一家主要中国互联网公司(类似于Groupon和Uber Eats的结合体)而非传统AI实验室,这一点尤其引人注意。

    • 多位用户关注了宽松的MIT许可以及计划中的与前沿开源模型如QwenDeepSeek的基准对比。总参数1.6T、活跃参数仅~48B以及开放权重的组合意味着,如果推理工具能高效支持其架构,该模型可能具有与其他高端MoE开源模型进行实际比较的潜力。

来源:https://www.bestblogs.dev/article/a22cc8a9?utm_source=rss&utm_medium=feed&utm_campaign=resources&entry=rss_article_item

相关热点

继续查看同栏目近期热点。

延伸阅读

补充最近整理过的热点入口。