曹曦在此前的分享中曾提出一个非常精准的比喻——“技术的舒适区”。通常来看,真正能够实现商业增长的公司,都是在技术舒适区内构建商业模式,而非执着于技术的最前沿。
如何判断一款AI产品是否处于舒适区?方法相当直观,就是看它的“抽卡”程度。所谓抽卡,指的是像可灵、Sora这类仍处于抽卡阶段的产品,用户为了得到一条满意的片段,必须反复点击“重新生成”按钮,直到不胜其烦。
这里有几组真实数据可供参考:我们团队在美国运营的一款规模不小的AI娱乐产品,用户点击“regenerate”的比例大约为20%。另一款AI卡路里类产品的抽卡率更高。但营收表现最好的那款产品,该比例却不到1%。
虽然我们没有亲自下场做AI生产力工具,但据同行反馈,多数产品的抽卡率依然居高不下。有些聪明的产品直接在结果页为用户提供4到10条不同的选项——这与谷歌搜索的思路其实异曲同工。

核心判断是:只有处于技术舒适区内的产品,才敢于踩下油门。接下来的路径无非两条——要么向下走,降低对技术本身的依赖(例如AI PPT产品,真正由AI生成的部分仅占15%,其余全靠模板);要么向上等,等待技术跨越那道门槛。
技术进步的方向其实相当清晰。Eric Schmidt在斯坦福的那场演讲已经点明,无非三点,而且都是当前LLM已经实现但尚未做到极致的:更长的上下文、更高的准确性,以及text-to-action。
有趣的是,历史上没有任何大众技术创新是凭空冒出来的,它们早已埋下伏笔。两年前刚提出时还令人惊艳的多模态和双工实时交互,如今回头看,大家都有一种“情理之中”的淡然——没有人再发出一声惊叹。
先说更长上下文这一点。Dario Amodei和杨植麟已经很早就提到过,Gemini理论上可以做到千万级上下文,但因成本问题被阉割到二百万。Eric曾问过一个有趣的问题:想象一下,如果再往上增加几个数量级,能做什么?答案指向一个叫Harmony的概念——云端同步你所有的文件。如果上下文真的能以较低成本覆盖500GB级别的文件,那么似乎就不再需要大量RAG脚手架了。这是多么顺理成章的事。
更高的准确性则更为直白。LangChain一直想实现但未成功。一个每一步推理都可能出错的LLM,注定只能停留在玩具层面。而一个SLA能做到6个9的LLM,就可以用于搭建严肃场景的AI Agent了。
所以,AI Agent这个概念推出得太早了。前面那么多公司融了几亿美金做这件事,实际上是在白烧钱空转。一位顶级投资机构的大佬告诉我,硅谷现在一大片都是Agent公司,但它们的任务完成率普遍在20%以下。这才是问题所在:在更高的准确性真正到来之前,AI Agent显然还没有进入技术的舒适区。无论是Devin、Devon还是Magic.dev,不成功,就只剩Theranos那一条路(当然我相信它们最终能成——毕竟Holmes女士在生物技术世界里没有Scaling Law可以依赖)。
最后是text-to-action。Stephen Wolfram两年前就讲清楚了这是技术发展的必然趋势。只不过因为Sam Altman的过度自信,GPTs在一套非常不合理的框架里摔了一跤——说实话,产品还是需要懂技术的人来主导。
具体应该怎么做?不应该走code interpreter那条路,而是参考这篇论文的思路,将语言理解与代码执行真正结合起来。举个例子,无论是GPT-4o、Claude 3.5还是Gemini 1.5 Pro,做一个基本计算都可能会错出一个数量级,完全不可靠。但换个方式:让模型先把问题翻译成Python代码,再启动一个环境去运行,最后读取结果并处理成所需格式——结果就完美无缺。这就是text-to-action的正确打开方式。如今已经有一大堆应用层公司在做这件事,但就像long context会取代RAG、Meta Llama 3 Instruct会取代SFT一样,text-to-action最终必然会进入基模,取代那堆胶水代码。
Reid Hoffman前两天提到,基模大概在GPT-6这个位置就会收敛。估摸着大差不差——等把多模态和双工实时交互完善下来,补上长上下文、高准确性、text-to-action,再顺便降低一些推理成本,工作就差不多完成了。届时,我们得到的将是LLM技术的终极形态。而那个终极形态,凭借出色的体能、无限的记忆力和极端变态强大的数理能力,也确实有点像AGI。
至于应用层的公司,一切的突破口和唯一的壁垒,都集中在抢占distribution上。正解在于Workflow Capture。这个受限于篇幅,下期展开讲。
