一家合伙人时薪逾2000美元的顶级律所，因AI生成“幻觉”导致庭审文件出现虚假法律引文，被迫向法官致歉
这事儿听起来有点讽刺：一家合伙人每小时收费超过2000美元的顶尖律所，竟然因为人工智能“瞎编”法条，不得不向法官低头认错。根据英国《金融时报》的报道，顶级律师事务所Sullivan & Cromwell（简称S&C）在一桩备受瞩目的破产案中公开承认，他们提交给法院的文件里，掺杂了多处由AI软件生成的“幻觉”错误，包括错误引用法律条文和判例。这一事件，无疑给正热火朝天拥抱AI的法律行业，泼了一盆现实的冷水。
S&C公开致歉：承认违反内部AI使用政策
S&C重组业务负责人Andrew Dietderich在上周六正式致函纽约联邦法官Martin Glenn，就4月9日提交文件中间出现的错误进行道歉。错误内容涉及对美国破产法典的错误引述，以及案例引用不当。“我们对此深感遗憾，”Dietderich在信中写道。他同时透露，这份涉事文件在准备过程中，并未遵循该所关于AI使用的内部政策。目前，律所正在评估是否需要对内部的培训和审查流程进行“进一步改进”。
那么，这些错误是怎么被发现的呢？率先揪出问题的，是本案的对手方律所Boies Schiller Flexner（BSF）。BSF在上周提交的文件中明确指出，S&C动议中引用的某些措辞“压根就没出现在美国破产法典第15章里”，并点出多处存在“错误引述或错误识别”的问题。更离谱的是，BSF指出S&C引用的某个案例“并非真实存在”，相关引用实际上指向了“不同司法巡回区的另一份判决”。
面对对手的质疑和铁证，S&C向法院的解释是，他们在使用AI工具方面一直维持“严格”标准，要求律师“不信任任何内容，对一切进行核实”。未能核实AI生成的内容，“构成了对公司政策的违反”。然而，这次事件恰恰表明，再严格的内部政策，如果得不到有效执行，也只是一纸空文。
AI“幻觉”频现法律界，技术滥用敲响警钟
事实上，S&C的遭遇绝非个例。过去一年，法律圈里类似的“AI乌龙”事件频频上演。去年，另一家顶级律所Latham & Watkins就承认，其一名律师使用Anthropic的Claude模型协助起草文件，结果导致文中间出现了虚构的期刊文章标题和作者信息。而新奥尔良的一家联邦上诉法院，更是对一名律师处以2500美元罚款，原因是他提交的简报中包含多达21处由AI生成或篡改的错误内容。
颇具戏剧性的是，这次作为“举报方”的BSF律所，自己也有过类似的前车之鉴。据报道援引知情人士透露，BSF的前合伙人John Kucera在去年9月一起针对亚马逊的案件中承认，他使用AI工具准备的文件，因“未能核实”细节而包含了“重大引用错误”。他当时表示“对这些错误感到羞愧，深感遗憾”。
知情人士还透露，S&C实际上持有ChatGPT的企业授权许可。S&C在向法官说明时补充道，在文件审查中，他们还发现了本案其他文件存在一些“非实质性和/或文书性错误”，并特别说明这些是人为失误，与AI无关。话说回来，正如WilmerHale的律师Jeffrey Dennhardt此前指出的，法律行业当前正进行着一场AI应用的“军备竞赛”，但与此同时，“仍存有一定程度的怀疑”。此次顶尖律所翻车的事件，恐怕会进一步加剧业界对AI工具可靠性的审视和警惕。毕竟，在严谨乃至苛刻的法律战场上，任何一点“幻觉”，都可能付出昂贵的代价。
