这篇文章的目的是什么?
作为程序员,行业确实已经发生深刻变化。代码Agent大幅降低了编写代码的成本,作为一名从业者,我逐渐意识到一个事实:过去最享受的,是把需求拆解成一个个模块,像搭积木那样将它们组合成一个可以运行的系统。那种“创造”的满足感,曾是工作的核心驱动力。
但现在,AI越来越擅长“搭积木”了。这个环节本身的价值正在缩水,我对它的热情也随之减弱。
这迫使我们思考两个更本质的问题:
- 当自己最擅长的技能正被AI逐步掌握,新的兴趣和价值的支点,究竟在哪里?
- 当“执行”变得越来越廉价,人还应该去发展和打磨哪些能力?
一个比较清晰的判断是:人不能把精力消耗在与AI的正面竞争上,那属于“同质化内卷”。更应该去抓住的,是AI自己搞不定、仍需要人来提供,并且能借助AI进一步放大的能力。
人 + AI > max(人, AI)
当然,需要先限定讨论的边界。这里所说的AI,指的是当前以及可预见未来中,以大规模语言模型为核心的系统。那些技术路线完全不同、能力近乎全能、甚至以碳基生命为载体的假想形态,不在讨论范围内。基于不可验证的假设来推演现实决策,意义不大。
AI 难以做什么?
当一项任务已经被AI稳定、低成本地搞定,人就没有必要再重复投入了。更值得关注的,是那些仍然需要人类做出关键判断,但借助AI可以大幅提升效率和价值的工作。
人的思维如何从大脑和身体活动中形成,大模型的智能表现又如何从训练、模型结构和计算中涌现,这些问题目前都还有未被充分解释的部分。当然,两种“未知”不是同一种未知:大模型的结构和计算是人为设计的,而人脑,是生物演化和个体经验共同作用的结果。
所以,不如把“思维如何产生”和“智能为何涌现”这两个问题,暂时放进黑盒。更关心的是,这些黑盒与现实世界连接的方式:
- 它们能接收什么信息;
- 如何与现实世界互动;
- 如何从结果中学习;
- 能否形成跨越时间的连续性;
- 最终由谁来承担行动的后果。
| 交互维度 | 人 | AI 系统 |
|---|---|---|
| 内部感知 | 饥饿、疼痛、疲劳、呼吸、心跳等,与行动价值深度绑定 | 电量、温度、负载、故障和损伤传感;通常是窄而工程化的内部状态 |
| 结果反馈 | 行动后果自然返回,包含身体和社会代价 | 只有接口返回或评价系统提供的反馈 |
| 时间连续性 | 同一身体、身份和社会关系长期延续 | 会话可能终止、复制、重置或更换模型 |
| 后果 | 身体疼痛、死亡、关系、财产、声誉和法律责任 | 机器人会耗电、损坏或任务失败,但损失通常归属于所有者和运营方 |
内部感受
人通过多种感受来理解自身和外部世界:
- 外感受:视觉、听觉、触觉等外部信息。
- 本体感受:身体姿态、关节位置、运动和肌肉张力。
- 内感受:心率、呼吸、饥饿、疼痛、疲劳、激素和内脏状态。
这些感受不是彼此独立的“传感器读数”。自主神经、内分泌、内脏和免疫系统一起参与身体的稳态调节,并进一步影响情绪、自我感、注意力和行动动机。
具身AI也能感知自身和环境状态,比如关节角度、电机电流、触觉、力、电量、温度等等。但人与AI的物理构成不一样,这些信号对两者的意义也完全不同。对AI来说,温度就是一个触发散热或停机策略的数值;对人来说,闷热不只是温度升高,还会带来烦躁、疲惫和注意力下降,影响情绪、判断和行为。
这种差异不代表AI无法识别情绪或模拟共情,而是意味着,人与AI获取情境的方式不同。因此,察觉他人细微的不适、理解话外之音、发现尚未被明确表达的需求,这些能力,在AI时代反而更有价值。
结果反馈
人和AI都能通过“预期结果”和“实际结果”的差异来调整行为。
在工程里,AI的目标和反馈需要被明确表达出来,比如损失函数、奖励信号、提示词、单元测试、用户评分、业务指标……但测试只能覆盖已经想到的情况,用户评分可能受表达方式影响,业务指标可能忽略隐私、信任和长期影响。一个系统完全可能在指标上成功,却偏离了人真正想要的结果。
人接收到的反馈要复杂得多:任务是否成功,疼痛、疲劳、舒适或快感,他人的信任、排斥和评价,金钱、地位和关系变化,行动是否符合自己的身份和原则,甚至数月乃至数年后才显现的长期结果。这些反馈可能彼此冲突。一件事短期成功,可能损害长期信任;可以提高收入,却违背个人原则;可以让指标上升,却让用户体验变差。人需要在这些维度之间权衡,判断什么结果更重要。
所以,AI时代稀缺的,不只是提高解决问题的效率,更是判断什么问题值得解决,什么结果才算成功。人的能力,需要从“解题”进一步扩展到“选题、定义问题和判断价值”。
时间连续性
大语言模型本身,不是一个有固定性格、目标和身份的角色。从技术上看,它学习的是语言序列的概率分布。在不同的提示词、上下文和采样条件下,同一个模型可以表现出不同的风格、倾向和行为模式。与其说模型是“某个人”,不如说它提供了一个包含大量潜在表达和行为的可能性空间。
但人具有自我同一性和连续性:身体连续性、人际关系、社会身份、承诺和债务、声誉、未完成的长期项目、行动留下的现实结果。这些经历不只是可以被调用的记忆,还会持续约束今天和未来的选择。过去建立的信任需要维护,作出的承诺需要履行,造成的损失需要补偿,未完成的事情会继续影响后续行动。
这有点像虚拟偶像。虚拟偶像可以有形象、性格、语言习惯和持续发展的故事,但这些特征不会自动成立。它需要创作者从大量可能性中做出选择:它应该怎么说话,在什么问题上坚持什么,与观众建立什么关系,哪些行为不符合它的身份。这种选择,受到创作者审美、性格、价值判断和受众期待的影响。正是这些持续的取舍,让一个原本可以呈现多种形态的系统,逐渐收敛成“这个具体的角色”。
在AI能快速生成大量内容之后,真正稀缺的,可能不再是某一次产出的能力,而是:谁在长期做出选择、坚持什么、承担什么,以及最终留下了怎样的作品、关系与声誉。
承担后果
人的决策会进入现实世界,产生难以逆转的后果:身体受伤和死亡、心理痛苦、收入和职业变化、信任和关系损失、法律处罚、声誉和身份改变。至少在现行法律制度下,人和组织可以做出承诺、授予权限、承担义务,也可以受到处罚和承担法律责任。AI即使参与了决策和行动,通常也不被视为独立的责任主体,相关责任还是要落实到它的提供者、部署者、操作者或所属组织。
能力可以交给AI,但责任,不能因此凭空消失。
我可以做什么?
内部感受
挖掘用户需求
- 通过访谈和现场观察,了解用户的真实工作;
- 从抱怨、犹豫和临时方案中发现痛点;
- 区分用户提出的功能与背后的真实目标和顾虑。
从产品视角定义问题
- 判断问题是否真实、高频,用户是否愿意付出成本解决;
- 协调使用者、购买者和决策者的不同诉求;
- 选择值得解决的问题,并定义成功标准。
这对应产品经理、产品负责人和创业者的核心工作:不是接收需求,而是选择问题。
运营产品并维护长期关系
- 观察用户为什么使用或放弃产品;
- 识别业务指标与真实体验之间的偏离;
- 维护长期用户关系,并根据反馈调整产品目标。
对应的工作包括产品运营、客户成功、社区运营和大客户管理。
结果反馈
Harness Engineering
Harness Engineering 的核心,是围绕具体工作场景,为Agent构建环境、工具、边界、反馈与可观测性,让它能持续执行任务、验证结果,并根据真实反馈调整行为。
提供上下文:让模型获得完成任务所需的信息、状态与历史记录。
提供行动工具:让模型能调用软件、操作系统并影响现实环境。
设定行为边界:明确允许、禁止以及需要人工确认的操作。
建立结果反馈:自动验证操作是否成功,结果是否符合预期。
保持过程可观测:记录模型的决策、行动、结果与异常,便于定位问题。
构建纠错机制:发现偏差后,在可控范围内重试、修正、回退或转交人工。
Harness Engineering 构建的是一个完整闭环:获取信息 → 作出判断 → 调用工具 → 观察结果 → 验证对错 → 修正行为。
时间连续性
上下文工程
上下文工程不只是编写Prompt,还包括系统指令、工具定义、消息历史、外部数据、任务状态和记忆检索。由于上下文容量有限,核心问题不是“把所有历史都塞进去”,而是持续选择最有价值的信息。
个人IP
AI可以快速生成文章、图片、视频和观点,也能模仿一个人的表达风格。但个人IP不是某一次内容的质量,也不是一个经过包装的人设,而是一个人长期关注什么问题、坚持什么原则、完成过什么作品、帮助过哪些人、犯错后如何修正,最终共同构成了他在他人心中的身份。
因此,个人IP的核心不是持续制造内容,而是持续积累证据:
- 长期关注同一类问题;
- 形成可以辨认的判断方式;
- 将观点转化为真实作品;
- 让自己的判断接受现实检验;
- 在事实变化后公开修正观点;
- 持续履行对读者、用户和合作者的承诺;
- 通过长期互动积累关系与信任。
承担后果
投资
投资是一件必须承担后果的事情。AI可以收集信息、分析公司、比较估值、构建模型,也能给出买入、持有或卖出的建议。但AI本身通常不需要提供资金,也不会因为判断错误而损失生活保障、错过其他机会、承受心理压力或者改变未来计划。
创业
创业也是典型的“承担后果”。AI可以帮助创业者调研市场、分析需求、设计产品、编写代码、生成营销内容、分析数据……但创业者需要投入自己的时间、资金和声誉,还要面对产品无人使用、资金耗尽、员工离职和客户流失等现实结果。AI可以提出“应该转型”或“应该停止”的建议,但真正决定继续投入还是及时止损的人,仍然是创业者。
