最近,微软CEO萨提亚·纳德拉在X上发布了一篇长文,标题为“反向信息悖论”。这篇文章表面探讨一个抽象的经济学概念,实则直指当前AI行业一个隐秘的“潜规则”——学习不对称。
外媒Business Insider的解读相当到位,认为纳德拉是在“暗指”Anthropic、OpenAI等大模型厂商。具体来说,这些公司一边利用公开数据和用户交互信息,拼命给自己的模型“投喂”;另一边,却对其他公司通过“模型蒸馏”复制自身模型能力的行为严防死守。Anthropic此前曾多次公开谴责这种做法,呼吁加强保护。
纳德拉的视角显然更高。他指出,在这种机制下,企业为了使用AI,必须不断向模型贡献自身的数据、流程、反馈和专业知识。这些正是模型持续学习的最佳养料。如果这种学习只单向流向模型提供商,那么企业辛苦创造的知识价值,最终会像沙子一样,一点点流失到掌握AI基础设施的那一方手中。
因此,他提出了一个关键概念:AI时代的企业需要建立一道新的“信任边界”。这道边界应确保企业的数据、反馈、评估体系以及组织内部沉淀的知识,能够牢牢锁定在自己手中,形成属于企业自身的、能够持续学习和智能进化的能力。
下面,就是纳德拉这篇题为“The Reverse Information Paradox”文章的核心内容编译,我们一起来看。
在智能时代,一家企业该如何捍卫自己的核心知识产权?
诺贝尔经济学奖得主肯尼斯·阿罗曾提出过一个关于信息的经典悖论:信息这东西,买家在得到它之前,不知道它值不值钱;可一旦得到,就等于免费拥有了它。所以,卖家为了出售知识,不得不先冒着泄露知识的风险。
AI把这个悖论反转了。在AI时代,买家为了使用自己购买来的智能能力,反而要冒着泄露自身知识的风险。
实际上,为了获得知识,你需要付出两次代价。第一次是真金白银的金钱;第二次,也是更宝贵的,是为了让AI真正为你工作,你必须向它灌输的专有知识。而且,你希望模型表现越出色,就得喂给它越多这类知识。
随着时间推移,信息不对称会越来越严重。卖家会随着你使用产品,不断加深对你的了解;但你却几乎不知道,卖家从你这里学到了什么。
这就是我所说的“反向信息悖论”。
专利制度在一定程度上解决了阿罗悖论,它允许发明者公开自己的想法,又不至于被人轻易拿走。但反向信息悖论,也需要一个类似的解决方案。
这不仅仅是数据保护的问题,要复杂得多。模型会从各种“经验”中学习:你输入的提示词、Agents调用的工具,甚至你发现模型犯错后进行的修正。每一次修正,都会变成模型提炼出的组织知识。这种知识,竞争对手永远买不到,却也是最容易在不知不觉中泄露的——一点点的痕迹,一次次的修正,一轮轮的评估。
你在使用智能的过程中,也在创造智能。而你创造出来的东西,理应属于你自己。这是你家独有的知识,就像哈耶克说的,是那些关于时间、地点和具体环境的、别人不可能拥有的知识。它了解你的思考方式,知道你的价值取向,也明白你衡量成功的标准。
话说回来,模型供应商利用公开数据训练模型,带来了巨大的创新,这是合理的。但讽刺的是眼下的行业现状:一边是模型提供商可以自由利用公开数据学习;另一边,他们对模型蒸馏施加各种限制条款,却保留着从客户使用数据和交互数据中学习的权利。
如果学习过程只朝一个方向流动,那么经济价值最终就会不断流向那个掌握学习基础设施的企业,而不是流向真正创造知识的人。
因此,关键就在于,让每一家企业都能拥有自己的学习基础设施,掌握自己的学习闭环。
就像Alex Karp说的:“技术客户真正想要的是,控制自己的计算资源、模型、数据栈,以及自己的核心优势。他们希望确保自己拥有生产资料,而这些东西不会被转移给别人。”而当前的行业模式,恰恰造成了这种他们最担心的资源转移。
这也是为什么,企业需要为自己建立一道真正的“信任边界”。这道边界的目的,是让企业自身的人力资本和“Token资本”能够不断积累和增长。
在这个边界内,企业的数据、信息痕迹、评估体系、调整后的模型权重,以及组织记忆,都能共同积累,并持续改进。同时,它也是一道严格的边界:未经企业授权,任何东西都不该跨越它,哪怕是所谓的“智能残留”。
企业应该有权利用模型的输出,去微调和训练自己的模型。我认为,这是每一家企业根据自身责任,对模型进行调整和适配的基本权利。
在云计算时代,企业积累的是数据。而在AI时代,企业积累的是“学习能力”。因此,信任边界也必须随之变化,从过去保护信息,转变为保护企业学习、适应和积累智能的机制。
为了做到这一点,每个企业都必须把握以下几个要点:
控制
企业内部需要创建自己的私有评估体系。因为,评估标准决定了组织内部对“什么是好结果”的定义。同时,企业要保留对自身组织记忆、信息痕迹、反馈、决策以及制度背景的所有权,并能将模型输出应用于自身业务。
能力
企业需要在租户边界内部,建立自己的专有学习环境来训练或调整模型。在这样的环境中,模型可以基于真实业务流程进行学习,同时又不会泄露公司知识。
选择
企业需要确保编排层不会与任何单一模型绑定。并且要问自己:如果正在用的某个模型被拿走了,你是否还有能力用其他模型来运行和优化你的评估?即使某个“通用”模型被抽走,你企业自身的资深能力是否还在自己手里?
成本
通过将编排层与单一模型解耦,企业可以更高效、更具成本效益地组合上下文、模型和任务,同时不会降低质量。
复合
将以上四点结合起来,企业就能建立自己的持续学习闭环,也就是一个“爬坡机器”。这个闭环能让企业的AI投资不断积累价值,推动智能能力持续增长。
换句话说,企业应该能够使用模型,并且不必交出那些使自己具有独特性的知识。这就是我们要面对的“反向信息悖论”。
结语:AI时代,企业需要掌握自己的智能资产
AI时代,企业竞争不再只是比拼数据规模和模型能力,更重要的是,能否持续积累和利用自身知识。纳德拉提出的“反向信息悖论”,揭示了企业在拥抱AI过程中面临的新挑战:如何让AI提升企业能力,而不是让企业知识成为模型能力训练的“燃料”。
未来,建立属于自己的智能基础设施,很可能将成为企业AI战略的核心方向。
