
今年1月9日,随着人工智能技术在各个领域日益普及,不少企业和公共机构开始借助AI工具来辅助日常文书处理工作。然而,现有技术仍存在局限性,若使用者缺乏审慎核查,很可能引发不必要的失误。上个月美国犹他州希伯城发生的一起事件,便是一个典型案例。
当地执法部门在使用一款名为Draft One的AI警情记录系统时,生成的最新报告中竟出现了“警察变成青蛙”的离奇描述。事后调查发现,问题根源在于系统处理执法记录仪音频时,误将现场背景中播放的动画电影《公主与青蛙》的对白,识别为执法过程中的实际对话,并将其作为有效信息纳入正式报告。
该市警方负责人介绍,引入AI系统的初衷,是将执法录音自动转化为文字记录,以减轻警员撰写报告的负担,从而腾出更多时间用于一线执勤。但此次事件暴露出现有技术在复杂环境下的识别缺陷——系统难以有效区分执法内容与无关的环境杂音,导致错误信息被写入具备法律效力的文件。
目前,当地警方正在同步测试两款AI警情记录工具,分别为Draft One和Code Four。鉴于前者在实际应用中出现了明显偏差,后续可能倾向于采用表现更稳定的Code Four系统,以支持日常执法文书工作。
