大语言模型的迭代速度，确实让人目不暇接。而一个越来越清晰的方向是——垂直领域的AI Agent，很可能就是下一代十亿美元级SaaS公司的核心引擎。

这期节目很有意思，嘉宾是YC校友、Casetext的联合创始人兼CEO Jake Heller。他们分享了一个典型的故事：如何打造一家成功的垂直领域AI公司，以及在过程中，如何用实际成果打破资深行业专家和旁观者的质疑。

Casetext的成长曲线很具代表性。最初10年，作为一家法律科技公司，他们从0做到了1亿美元的估值。而在GPT-4发布后的短短两个月，估值直接跃升至6.5亿美元，并被Thomson Reuters收购。Jake可以说是这一波生成式AI浪潮的先行者，在实战中积累了大量关于如何让LLM在垂直领域真正产生价值的经验。这次访谈，他分享了不少背后的故事。

先说说三个核心收获：

1. 垂直AI产品不是简单的“GPT套壳”。产品背后的工程问题、创始人对业务逻辑的深刻理解、团队积累的独家数据，这些都可以构成坚实的竞争壁垒。

2. 创始人的以身作则。如果你想让团队相信转型的新方向，最好的方式是自己亲自下场，做出一个惊艳的Demo。用实际效果说话，远比任何口号都有说服力。

3. 新模型带来的新机会。测试表明，OpenAI的o1模型能有效提高输出的准确率，这为许多垂直产品打开了新的可能性。

因为感受到GPT-4的强大，而快速转换了业务方向

Casetext团队很早就与包括OpenAI在内的多家研究实验室建立了密切合作。因此，他们得以在GPT-4正式发布前就获得了试用机会。在签署保密协议、体验了48小时后，整个团队被GPT-4强大的性能深深震撼。他们当机立断，100%的业务方向，全力投入一款名为“CoCounsel”的、基于GPT-4的新产品。

为什么会开始做Casetext这款产品？

创始人Jake自己就是律师出身。刚入行那几年，法律行业的数字化程度简直低得令人发指。找案件参考资料的过程异常痛苦——你得翻遍大公司所有的电子邮件，看是否有潜在的欺诈行为；想找对应的法律条文，可能真得去图书馆，一本一本地翻书查找。

后来虽然有了网页和一些专门的研究工具，但大多笨拙不堪，搜索效率依然低下。Jake有计算机背景，实在受不了这种工作方式。他在律所工作时，就经常根据自己的痛点，开发一些像浏览器插件这样的小工具。可律所的人并不认可这种做法。总顾问经常跑来质问他，为什么要把时间花在技术上，两人因此常有冲突。当Jake为自己开发出业务工具时，总顾问还会警告他，这些技术的归属权属于律所。

这让Jake非常不满，于是他决定自己出来创立一家法律科技公司。这支从早期阶段就成立的团队，使命一直很明确：将最好的技术带入法律领域。

Casetext团队的PMF之路

一开始，Jake和他的团队尝试做一个律师UGC平台，一个类似维基百科、GitHub、Stack Overflow那样的问答社区，帮助律师之间互相答疑解惑。但这个想法很快失败了。原因很简单：律师通常是按小时计费的，时间极其宝贵，根本没人愿意花大量时间在这类平台上创作内容。

后来，Jake将大量精力转向AI。AI可以帮助律师发现几个案例之间的相关性，从而更高效地获取信息。律师只需上传与自己工作相关的文件，AI会自动读取并推荐相似案例，提供参考。这个转型是有价值的，但本质上只是改善了律师的工作流，属于渐进式创新，并没有在行业里掀起太大波澜。

在推销产品时，团队经常听到律师这样的反馈：“我一年赚500万美元，工作是按小时计费的。我不想引入任何可能让我的生活更高效的东西——那会增加学习成本，同时降低我的报价。我并不想改变工作方式。”

直到ChatGPT出现，局面瞬间改变。突然之间，美国乃至全球的每个律师都意识到，AI会对他们的工作产生巨大影响。Casetext接到了大量业务咨询，很多人主动联系他们说：“我知道你们在做法律相关的AI产品，我觉得我需要这样的东西。”团队也很快获得了高知名度，投资人邀请他们去高档餐厅，知名杂志刊登他们的案例。因为做得早，他们一下子成了明星团队。

由于在GPT-4发布前就开始准备CoCounsel这款产品，他们在产品和技术上建立了先发优势。CoCounsel当时的形态是一个对话式法律AI产品，你可以像和ChatGPT交流一样给它布置任务——比如“帮我阅读100万份文件，看看里面是否有某家公司欺诈的证据，然后整理出一份摘要”。这种交互方式，更像给团队招了一个新的员工，而不是购买了一个新产品，极大地提高了客户律所的人效。产品很快完成了PMF。

如何践行“Founder Mode”，带领团队进行业务转型？

对Casetext来说，向AI转型一开始并不容易。作为一家经营了十年的企业，他们靠着原有产品已经能做到1000万到2000万美元的ARR，并且保持70%到80%的年增长率。所以，并不是每个人都热情拥抱新方向。

作为“Founder Mode”的践行者，为了让大家感受到新方向的价值，Jake亲手写代码做出了CoCounsel的第一个版本。在一次高管会议上，他向高管、员工和部分客户演示了产品功能。演示非常成功，在场的所有人都被这个新产品惊艳到了，从而认可了Jake对转型的判断。

开发AI产品的独特流程：测试驱动开发

在模型能力还不够强的阶段（比如大家只能用GPT 3.5时），Jake的团队花了大量时间研究如何让模型的输出达到可用程度。对于没使用过ChatGPT的人来说，对话式机器人的输出确实惊艳。但在面对专业人士时，ChatGPT的输出虽然很有律师风格，可细看内容就会发现，它还是在“一本正经地胡说八道”，存在不少错误。这在法律领域，是绝对不允许的。

为了让输出达到可交付的标准，这里面需要进行大量的“工作流拆解”和“分节点调优”。在这个过程中，团队发现最高效的开发方式是“测试驱动开发”——先测试出什么样的提示词和对话流程能让GPT输出有用内容，再围绕这个流程开发产品功能。在这样的流程中，如何为提示词添加示例、如何构建测试集数据，变得非常关键。

垂直AI产品如何构建竞争壁垒？

有人会认为，这些所谓的“垂直AI产品”都是“GPT套壳”，毫无壁垒可言。Jake根据自己的亲身经历，给出了不一样的看法。

当你真正尝试为客户解决问题，并实际完成工作时，你需要让自己的产品像一个优秀的年轻律师助理一样出色，客户才会买单。为了实现这个目标，你需要拥有独家的数据集，比如法律行业的专业案例。你需要解决很多软件工程问题，让系统更稳定、更用户友好——比如优化OCR功能，让它能识别出手写内容和排版奇怪的文件。你还需要足够了解法律行业的各种业务系统，以便产品能更好地与客户原有系统集成，降低迁移成本。

所有这些，共同构成了你垂直产品的竞争壁垒。这个道理其实是通用的。所有SaaS产品都可以看作是“SQL套壳”——Salesforce本质上也只是将几个数据库连接起来，根据用户的不同交互方式展示数据，它的竞争壁垒在于产品背后的业务逻辑。同样，对于垂直AI产品来说，竞争力不必完全依赖AI，也可以像SaaS产品一样，源于对行业和业务逻辑的深刻理解。

OpenAI的o1模型，如何给法律AI产品带来新机会？

由于法律行业对AI输出的准确性要求极高，Jake的团队花了大量时间降低模型的输出幻觉。他们尝试了很多方法：在提示词工程里添加足够专业的用例、优化搜索算法（把一次查询拆解成多轮查询）等等。

OpenAI发布o1模型后，他们对这个新模型做了很多研究。o1是一个具备“慢思考”能力的模型，它不会像之前的LLM那样根据问题直接输出，而是会一步步拆解步骤，好好想想之后再回答。团队意识到，o1模型在输出答案之前，可能会自己多做几轮检查。

他们给o1提供了一份真实的法律简报，悄悄修改了里面的部分细节，使其变成一份有问题、不规范的简报，然后让o1模型来判断其中存在哪些错误。其他模型都回答“这份材料没问题”，唯有o1在进行了复杂的思考之后，找到了简报里出现的具体问题。

这让他们真切感受到了思维链的强大。团队也开始积极探索思维链，比如邀请全国最优秀的律师来分享自己解决复杂法律问题时的思考过程和工作流程，以获得更多这方面的训练数据。

Jake对法律行业的AI落地非常乐观。他认为，从此以后，你不再需要像他刚入行那样，花费大量时间和金钱在一个地下室里逐页阅读文档。你真的有了一个Agent，能和你一起进行战略性的智能思考。这不仅会让工作变得高效，也会让工作本身变得更有意思。