先聊聊最近发生在英国德比郡的一起真实事件。6月19日传来消息,一名警员因涉嫌利用生成式AI在多起案件中伪造证据材料,目前正以妨碍司法公正的罪名接受刑事调查。听起来颇有些匪夷所思,但这确实已经发生了。

据BBC于6月13日报道,德比郡警方已对该警员正式展开调查,原因是他在多起案件中使用AI系统生成并提交证据。截至目前,他尚未被捕,但已被停职,等待进一步调查结果。与此同时,德比郡警方与英国皇家检察署正联手推动此案的侦查工作。
警方发言人在声明中指出:该警员涉嫌在数起案件中借助AI工具制作证据材料,有关部门已以妨碍司法公正为由启动刑事调查程序。
这起案件在英国尚属首次。耐人寻味的是,就在事发前几天,英国新成立的全国警务AI中心刚刚发布了一份指导意见,明确告诫警员不得使用生成式AI起草法庭陈词——理由非常直接:AI生成的内容极有可能混杂虚假信息,一旦写入司法文书,后果将难以估量。
全国警务AI中心负责人亚历克斯·默里对此的回应颇有深意:“我们已经向部分警队明确表示,‘你们不能这样做,因为必要的审查与制衡机制尚未到位。我们需要稍微放慢节奏。’”放眼全球,各国执法机构近年来纷纷拥抱AI技术,期望借此提升办案效率、提高结案率,这无可厚非。然而,人脸识别技术屡屡出现误捕事件,早已警示我们一个道理:速度快并不等于准确度高。这一逻辑,放在AI编造证据这件事上,尤其值得警醒。
