美国新墨西哥州最高法院近日裁定，辩护律师斯蒂芬·阿伦斯因在刑事上诉文书中提交由ChatGPT生成的虚构证人和编造警察证词，构成藐视法庭，被处以5000美元罚款，并将被移交律师纪律委员会接受进一步调查。
据路透社报道，阿伦斯在为一名被判谋杀罪的当事人提出上诉时，承认借助ChatGPT起草了主要上诉文书。法院指出，文书中出现的虚假证词来自“完全虚构的证人”。阿伦斯在听证会上解释称，自己将电脑生成的庭审文字记录及其他案件材料交给ChatGPT，以为它能给出“无懈可击的摘要”，却未意识到AI产生“幻觉”的严重程度。他同时表示“很懊悔”，希望纪律委员会考虑这是一次无心之失。
新墨西哥州最高法院法官对阿伦斯的解释表示难以接受。C·香农·培根法官在听证会上质问：“律师先生，你看新闻吗？听广播吗？有没有在了解外面发生什么？律师依赖AI幻觉的问题，每天都是头条新闻。”法院还提到，阿伦斯“缺乏悔意，也缺乏对委托人的关心”。
这一案件是近期又一起律师因未核实AI生成内容而受罚的案例。此前已有数十名律师因在诉讼文书中使用AI编造的判例引用或错误法律依据，受到州或联邦法官的处分。与多数涉及虚假判例引用的案件不同，阿伦斯在刑事上诉文书中直接使用了虚构的证人证词，情节更为严重。
随着生成式AI在法律等专业领域的应用加速，AI输出内容的准确性核查正成为行业关注的焦点。阿伦斯本人也承认，所有依赖这项“强大却有时不够稳定的技术”的专业人士，都应从中吸取教训。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
