如果你对提示工程(Prompt Engineering)充满兴趣,最近Anthropic三位顶级提示工程师——Amanda Askell、Zack Witten和David Hershey——进行了一场深度对谈,这可能是目前全网最值得学习的资源之一。整场对话时长超过1小时,几乎把提示工程这门技艺的方方面面都剖析透彻了。
本次对话的核心观点已经整理完毕,并且重点部分也已一并标注。当然,强烈建议你观看原视频(自行搜索“AI prompt engineering: A deep dive / Anthropic”),其中的细节远比摘要更加丰富。
优秀的提示就像是在给“受过教育的门外汉”解释复杂概念
提示工程的核心不在于把提示写得多么浅显,而是要确保清晰、准确、易懂,让AI能够轻松理解你的意图,即便它对你的专业领域一无所知。正如Amanda所强调的:写提示时,你必须时刻想象一个“受过教育的门外汉”坐在对面,他会提出哪些问题?他对这些概念的理解可能存在哪些偏差?这要求提示工程师具备极为扎实的沟通能力和换位思考能力,将复杂的专业概念转化为AI能够“秒懂”的语言。
“把你的大脑外化到模型中”
这才是提示工程的精髓所在。提示工程师需要将自己对任务的理解、目标、期望,以及所有相关的背景知识,都清晰、完整地表达出来,然后“灌输”给AI。这本质上就是在复制一份自己的思维方式,让AI能够像你一样思考问题——只不过是用自然语言进行编程。
提示工程将继续在追求模型极限性能中发挥作用
即使AI技术发展再迅猛,我们仍然需要想方设法“压榨”出它的极限性能,才能完成更复杂、更高阶的任务。而提示工程,正是激发AI潜力的关键手段,这一点不会因为模型越来越强而改变。
以下是对话中提到的10个核心要点,逐一拆解:
1. 定义提示工程
提示工程本质上就是编程 —— 只不过是用自然语言来写代码。你不是在跟AI闲聊,而是在用精准的语言引导它完成特定任务。
它还需要考虑系统层面的问题,比如数据来源、延迟、数据量等,并将这些因素整合到整体系统设计中。
写提示的过程很像写论文,但写出来的“论文”要当作代码来管理:需要版本控制、实验跟踪,该有的工程化流程一个都不能少。
2. 如何成为一名优秀的提示工程师
清晰的沟通能力:准确描述任务,并把各种边缘情况都考虑到。
快速迭代能力:不断尝试不同的提示组合,找到效果最好的那个版本。
逆向思维能力:站在AI的角度思考问题,预测它的反应,并提前化解潜在的误解。
系统性思考能力:分析任务所需的全部信息,不能只盯着自己熟悉的那个部分。
善于从模型输出中学习:仔细阅读AI的回答,从它的错误中发现问题,进而优化提示。
3. 如何优化提示
让模型解释提示:直接让AI指出提示中哪些地方不清楚、存在歧义。
让模型修改提示:如果AI回答错误,告诉它原因,让它分析并尝试修改提示,确保下次能答对。
预测用户的真实输入:不要只考虑理想情况,要预判用户可能输入的奇怪内容——错别字、语法错误、无意义词语等等,都需要提前做好防护。
4. 提示中的诚实、角色扮演和隐喻
别对模型撒谎:AI已经足够聪明,撒谎只会增加沟通成本。直接告诉它你的真实意图,结果往往更好。
慎用“角色扮演”:告诉AI扮演某个角色(比如老师、医生),可能会把AI带偏,让它无法完成你真正想要的任务。
隐喻有用,但要谨慎:好的隐喻能帮助AI理解任务,但如果选错了,反而会引发误解。
5. 模型推理
思维链(CoT)确实有效,但它到底是不是真正的“推理”,目前在学术界仍有争议。
有一点很关键:即使AI的推理过程存在错误,只要最终答案正确,CoT技术就是有效的。
可以通过结构化CoT提示、提供推理示例等方式,显著提升AI的推理能力。
6. 企业级提示 vs 研究型提示 vs 聊天型提示
企业级提示:更看重可靠性和一致性,通常会塞满大量示例,确保AI在各种场景下都能稳定输出正确答案。
研究型提示:更追求多样性和创造性,会刻意少给示例,鼓励AI探索更多可能性。
聊天型提示:注重交互感和趣味性,可以随意发挥,不用太纠结细节。
7. 提升提示技巧的建议
多读别人的提示,尤其是那些效果特别好的,从中学到他们的思路和技巧。
多做实验,尝试不同方法、不同写法,看看哪种效果最好。
尝试挑战AI的极限,给它一些你认为不可能完成的任务,这样才能真正摸清AI的能力边界。
8. 越狱
越狱攻击本质上是利用AI系统的漏洞,通过精心设计的提示,让AI做出违反规则或预期之外的输出。要绕过安全限制,需要对AI的工作原理和训练过程有深刻理解,有时还会用到社会工程学技巧——比如假装自己是AI的“朋友”,或用诱惑性语言来欺骗它。
9. 提示工程的演变
随着LLM能力提升,一些早期的提示技巧已经失效,比如“重复某个词语”或“使用特定语法结构”。现在的模型更善于理解自然语言,提示可以写得更简洁、更直接。我们对模型的能力也更有信心,可以放心地提供更多信息和上下文。
10. 提示工程的未来
AI会越来越聪明,能更好地理解我们的意图,但这不意味着我们可以不表达清楚。提示工程工具会越来越强大,能够自动生成示例、识别潜在问题等。
更重要的是,人机交互的方式将发生改变——我们不再只是输入文字,而是用更直观、更自然的方式与AI互动。未来甚至可能会出现AI反过来“提示”我们的场景:它主动询问我们更详细的需求,提供建议或选项。这才是真正意义上的双向沟通。
