英国检察官引用AI编造材料判例 虚构案例引发司法担忧！在一场涉及强奸儿童案的高等法院诉讼中，高级王室检察官拉文德·迪隆引用了一个虚构的法律先例，引发了对人工智能幻觉影响司法系统的担忧。法庭文件显示，代表皇家检察署（CPS）出庭的迪隆在讨论是否应起诉一名11岁男孩强奸其7岁妹妹时，引用了一个完全不存在的案件。
对于这一错误，她的解释被两位高等法院资深法官称为“无法令人满意”，并被一位人工智能与法律领域的专家视为“严重失误”。据了解，该引用源自一次网络搜索过程中生成的人工智能回答。这起案件是今年众多因人工智能相关错误而困扰法庭诉讼的案件之一，这些错误大多来自没有法律资格、自行代理诉讼的人，且常见于就业法庭案件中。
在这起案件中，男孩的律师质疑CPS的决定，指控检察官未能考虑社会工作者、青少年工作者以及一名法医心理学家的意见。迪隆主张对该男孩进行起诉，并提交了一份详细的法律依据，援引了她所称的“CPS诉J案 [2024] EWCA Crim 3529”。然而，该案件经查并不存在。
继续推进此案的决定由迪隆于4月作出，并得到了首席皇家检察官的确认。随后在10月，迪隆承认那个不存在的引注系错误所致。她表示，她当时所指的其实是另一项完全不同的决定——这次是真实存在的——该决定作出于15年前。
高等法院表示，皇家检控署援引虚构案例的做法并未影响该男孩对继续起诉决定提出挑战的结果。此案定于本周晚些时候在青少年法庭开庭审理。
2025年6月，高等法院针对从住房到银行等案件中出现的AI幻觉问题作出回应，呼吁律师公会和法律学会将遏制该问题视为“当务之急”并考虑相关措施。时任王座法庭庭长的维多利亚·夏普女爵士警告称，如果人工智能被滥用，将对司法公正和公众对司法系统的信任产生严重影响。滥用AI的律师可能面临从公开训诫到藐视法庭诉讼乃至移交警方处理的制裁。
皇家检控署在回应置评请求时表示，其制定了严格的人工智能政策，限制其使用范围，确保人工智能不用于作出法律决定，并且必须由人工进行准确性核查。发言人称，在使用互联网进行法律研究时发现了错误，立即予以纠正，并开展了内部审查，以查明错误发生的原因，同时确认是否还有其他案件受到影响。他们还分享了经验教训，强调必须从可信的法律来源引用判例法。
最新事件使得由道蒂街律师事务所大律师马修·李维护的英国追踪系统中的记录总数达到101条，涵盖了已确认、疑似及存在争议的与人工智能相关的错误，以及相关的虚假引用。他表示，已发现的案件可能只是“冰山一角”，因为许多下级法院的裁决从未公开。英国检察官引用AI编造材料判例 虚构案例引发司法担忧！
