12月5日，斯坦福大学社会媒体实验室创始人、长期研究错误信息的专家杰夫·汉考克（Jeff Hancock）承认，他在一份法庭文件中使用了ChatGPT来辅助整理引用文献，结果撞上了大模型常见的“幻觉”问题。批评者毫不客气地指出，这一失误已经严重动摇了这份文件的可信度。

据1AI了解，这份宣誓证词是汉考克为支持明尼苏达州一项“使用深度伪造技术影响选举”法案而提交的。该法案目前正在联邦法院受到挑战，挑战者之一是保守派YouTuber克里斯托弗·科尔斯（Christopher Khols）和明尼苏达州众议员玛丽·弗兰森（Mary Franson）。他们的律师在审查文件时发现，证词中赫然列出了几篇根本不存在的学术引文，于是直接要求法院判定该文件“不可靠”，并在后续审议中将其排除。

汉考克随后承认自己确实用了ChatGPT，但他强调并没有用它来撰写任何实质性内容。他自己的说法是：证词的内容是他本人撰写并反复审查过的，每一项主张他都坚信有最新学术研究作为支撑，并且反映了他作为该领域专家对AI技术、虚假信息及社会影响的真实判断。

至于那些错误的引用，汉考克解释说，他同时使用了Google Scholar和GPT-4来搜索可能与证词相关的文章，目的是把自己已知的学术知识和尚不熟悉的新研究结合起来。他坦白，他让GPT-4生成了一份引文列表，却没有注意到这个工具“编造”了两条根本不存在的文献——也就是所谓的“幻觉”——还给另一篇引文安上了错误作者的名字。

他为此道歉：“我无意误导法院或律师，对造成的混乱深表歉意。尽管如此，我仍然坚定地支持这份宣誓书证词里的所有实质性观点。”

这件事再次给所有人提了个醒：AI辅助工作固然高效，但人工审核这道坎，永远不能省。