AI 幻觉让法官头疼，韩国计划向滥用 AI 的律师开罚单

IT之家 6 月 15 日消息，据《韩国先驱报》报道，韩国法院行政处表示，由于人工智能出现幻觉问题，导致律师在法律文书中引用根本不存在的“虚假判例”，韩国司法部门正加大力度应对庭审环节中的人工智能滥用乱象。韩国法院行政机构目前正在研究修订相关法案、完善庭审流程，计划通过罚款等方式，杜绝借助人工智能编造虚假法律证据的行为。越来越多法官反映，原告与律师在庭审中频频援引不存在的案件与法律条文。首尔某法院一名法官称：“以往我只会在判决书脚注里指出律师引用的不实案例，如今这类问题泛滥，我不得不直接在正文括号中逐一标注。”这位法官补充道：“现在我的工作量大幅增加，每一条引用案例都必须逐一核查。”另据韩国《中央日报》报道，大邱高等法院曾出现一起典型案例：一名代理律师在法律文件中引用了一则不存在的最高法院判例。法院要求其作出解释后，该律师又举出了另一则同样子虚乌有的案例。另有一名光州律师引用《民事诉讼法》第 451 条，但其阐述的内容却与该法条毫无关联。蔚山地方法院的一名律师援引了不相干的最高法院判例，事后承认自己借助谷歌 Gemini 大模型检索判例后，并未仔细核对内容。韩国各地法院也开始公开指出这类不实引用。首尔南部地方法院在一起投资纠纷案件的判决书中，判决原告胜诉，并明确写明：“被告的主张所依据的判例均不存在。”另一名法官表示：“法官核查案例要耗费大量时间，还要考虑到律师可能只是单纯输入失误，不敢直接下定论。”为整治乱象，韩国司法界推动修订法律，授权法院对提交虚假法条、虚假判例的律师处以罚款。同时，司法部门计划修改庭审程序规则，要求诉讼各方主动说明是否使用人工智能撰写法律文书。目前，针对人工智能不当使用问题，韩国法院可采取限制当庭辩论、提请对涉事律师予以惩戒，或是判令其承担额外诉讼费用（若滥用 AI 导致庭审延误）等处理方式。今年 2 月，韩国司法信息公开门户新增案例编号核验功能，可查验案件是否真实存在；相关部门还向法官发放指南手册，指导大家利用人工智能甄别虚假判例，手册中附带专用提示词，方便法官核查引用案例的真伪。此外，韩国法院行政处已获批 161 亿韩元（IT之家注：现汇率约合 7179 万元人民币）专项资金，用于搭建司法系统内部专属人工智能平台。今年 2 月，该院已上线人工智能庭审辅助系统试点版本，系统收录了最高法院判例、裁判文书、实务手册及法律释义等资料。该项目共分四个阶段，目前第一阶段工作已完成，司法部门还计划将生成式人工智能接入这套系统。