1月9日消息,如今不少商业机构乃至政府部门开始采用AI工具辅助记录工作,不过当前相关技术发展尚不成熟,如果用户未能仔细核查AI生成的内容,很可能闹出笑话。就在上月,美国犹他州希伯城就发生了一起典型案例,当地警方使用的AI警情记录系统Draft One生成的报告中,竟然出现了"警察变成青蛙"的荒谬内容。
希伯城警察局的基尔警长在接受福克斯13台采访时透露,这套AI警情记录系统会同步监听执法记录仪的音频内容,并自动生成警务报告。然而系统误将现场背景中播放的动画电影《公主与青蛙》的对话识别为执法过程的一部分,并将相关内容"一本正经"地写入了正式记录。
希伯城警方表示,引进此类AI警情记录系统的初衷,是通过将执法记录仪的音频自动转写成文字,帮助警员节省撰写报告的时间,从而减少文书工作、增加巡逻执勤时长。但事实证明,AI工具会将现场的各种背景噪音混入报告中,这意味着错误信息被直接写入了具有法律效力的正式文件。

目前希伯城警方正在测试两款AI警情记录系统,分别为Draft One及Code Four。考虑到本次Draft One闹出的"青蛙事件",后续警方很可能会选择Code Four AI系统用于日常执法。
