Claude的系统提示词最近被曝光了,长度惊人——包含了16,739个单词。相比之下,OpenAI在ChatGPT中的o4-mini系统提示只有2,218个单词,仅占前者的13%。这背后藏着AI发展的重要信号,而Karpathy的解读让这件事变得更加值得玩味。

什么是系统提示词
系统提示词,说白了就是LLM在对话开始前收到的一本“说明书”——告诉它该扮演什么角色、遵守哪些规则、用什么方式回应用户。Claude的这本说明书有多厚?我们来拆解一下主要部分。
- 工具定义:占比最大。详细介绍Claude可以调用的14个MCP的具体信息。短的只有十几行,长的比如谷歌Drive搜索的介绍超过了1700个字。
- 用户偏好与风格:主要规定Claude如何表现、如何回应用户请求,以及哪些该做、哪些不该做。比如处理设计计算时需要思考,涉及知识截止日期怎么应对,用户要求写诗歌时该怎么写等。
- 引用说明、Artifact说明、搜索说明以及谷歌集成注意事项:这部分其实也跟工具使用相关,只是因为不属于MCP而被单独拎出来了。
整个提示词中充满了临时修改的痕迹,这些修改往往没有用规范的XML或Markdown格式,就是一段话,看起来像是针对热点事件或问题修复打的补丁。比如下面这条:
If you are using any gmail tools and the user has instructed you to find messages for a particular person, do NOT assume that person's email. Since some employees and colleagues share first names, DO NOT assume the person who the user is referring to shares the same email as someone who shares that colleague's first name that you may ha ve seen incidentally (e.g. through a previous email or calendar search). Instead, you can search the user's email with the first name and then ask the user to confirm if any of the returned emails are the correct emails for their colleagues.
这么长的系统提示词,维护和更新甚至版本控制都应该需要一个专门的流程,否则很容易上线后出问题。至于具体怎么运作,外界还不得而知。
这篇分析除了探讨Claude的提示词写法,更值得关注的是Karpathy今天提出的一个观点。他受到Claude提示词的启发,认为当前LLM的学习方式还缺少一种重要范式,他称之为“系统提示学习”。
现有LLM学习范式
- 预训练(Pretraining):主要用于让模型获得广泛知识。通过大规模语料库训练,模型学会了语言、常识和世界知识。
- 微调(Finetuning,SL/RL):让模型形成“习惯性行为”,比如更好地遵循指令、优化对话风格等。这一过程同样是通过调整模型参数实现的。
但人类在学习新知识或解决新问题时,往往不是直接“改写大脑参数”,而是通过“记笔记”或“自我提醒”的方式,将经验和策略以显式的形式保留下来。比方说,当你遇到某类问题后,会总结出“下次遇到类似情况可以这样做”的经验。这种方式更像是在不断编辑自己的“系统提示”,而不是每次都重新训练大脑。
所以“系统提示学习”是一种介于模型参数和外部记忆之间的机制。Karpathy认为,LLM也应该有类似“记笔记”的能力,把解决问题的策略、经验和通用知识以显式文本的方式存储下来,而不是全部依赖参数更新。上面Claude的系统提示全都由人类编写,效率低且难以扩展。理想情况下,模型应该能通过“系统提示学习”自动生成和优化这些提示,就像人类自己总结经验一样。
系统提示学习的优势
- 更高效的数据利用:通过显式的“复盘”或“总结”,模型可以更高效地吸收反馈,比单纯的奖励信号更高维、更丰富。
- 更强的泛化能力:显式的策略和经验总结有助于模型在新任务中迁移和应用知识。
Karpathy用了一个生动的比喻:当前的LLM就像电影《记忆碎片》(Memento)里的主角,没有自己的“备忘录”或“草稿本”,只能靠参数记忆一切。其实藏师傅的网页提示词就已经在充当这种作用了,而且相当一部分是跟AI共创的。
他也指出,“系统提示学习”如果能实现,将成为LLM领域一个全新的、强大的学习范式。当然,问题也很明显:如何自动编辑和优化系统提示?是否需要为“编辑系统”本身设计学习机制?如何让显式知识逐步转化为模型的“习惯性”参数?这些都是需要解决的核心挑战。
系统提示词就像私人助理的指令手册。越详细,结果越精准。与AI交流时,明确指令胜过模糊表达。学会像Claude的提示词那样,具体说明需求和边界。善用列表、格式和示例——AI更容易理解结构化的指令。“提示工程”不是高深技术,而是日常沟通技巧的延伸。感兴趣的话可以详细看看Claude的提示词内容,学习一下。
而且Karpathy提出的“系统提示学习”其实现在也可以半自动地实现一部分,值得从业者先行探索。
