人工智能在司法领域的应用正引发新的监管挑战。据韩国媒体报道，由于AI幻觉问题频发，导致律师在法律文书中引用根本不存在的虚假判例，韩国司法部门正着手修订法案，计划通过罚款等方式整治这一乱象。

韩国法院行政机构透露，目前正在研究完善庭审流程，以应对日益增多的AI滥用问题。越来越多的法官反映，原告与律师在庭审中频频援引不存在的案件与法律条文，严重干扰了正常的司法秩序。

虚假判例泛滥增加法官核查负担

首尔某法院一名法官坦言，以往只会在判决书脚注里指出律师引用的不实案例，如今这类问题已泛滥到不得不直接在正文括号中逐一标注的程度。这位法官补充道：“现在我的工作量大幅增加，每一条引用案例都必须逐一核查。”另一名法官也表示，核查案例耗费大量时间，且考虑到律师可能只是单纯输入失误，往往不敢直接下定论。

多起典型案例暴露AI使用漏洞

韩国司法实践中已出现多起典型案例。大邱高等法院曾出现一名袋里律师在法律文件中引用不存在的最高法院判例，被要求解释后又举出另一则同样子虚乌有的案例。另有一名光州律师引用《民事诉讼法》第451条，但其阐述的内容却与该法条毫无关联。蔚山地方法院的一名律师则承认，自己借助谷歌Gemini大模型检索判例后，并未仔细核对内容便直接引用。

司法部门多措并举应对挑战

为整治乱象，韩国司法界正推动修订法律，授权法院对提交虚假法条、虚假判例的律师处以罚款。同时，司法部门计划修改庭审程序规则，要求诉讼各方主动说明是否使用人工智能撰写法律文书。目前，针对AI不当使用，韩国法院可采取限制当庭辩论、提请对涉事律师予以惩戒，或判令其承担额外诉讼费用等处理方式。

在技术层面，韩国司法信息公开门户已于今年2月新增案例编号核验功能，可查验案件是否真实存在。相关部门还向法官发放了附带专用提示词的指南手册，指导利用AI甄别虚假判例。此外，韩国法院行政处已获批161亿韩元（约合7179万元软妹币）专项资金，用于搭建司法系统内部专属人工智能平台。该平台试点版本已上线，收录了最高法院判例、裁判文书等资料，并计划接入生成式人工智能。