律师因使用ChatGPT在谋杀案中捏造证词被罚款5000美元

法官对此表示难以置信,并反问该律师是否没有关注新闻,最终对其处以5000美元罚款,并将其移交至律师纪律委员会进行调查。

一起涉及AI工具生成虚假法律材料的案件近日引发关注。律师Stephen Aaron在一起谋杀案中代表客户提起上诉,其递交的法律文件中包含了由ChatGPT捏造的警方证词以及虚构的证人信息。与常见的AI虚构判例不同,本案的特殊之处在于AI工具直接伪造了证词内容。

据披露,Aaron将一份由计算机生成的庭审记录及其他案卷材料输入ChatGPT,并预期该工具会生成一份“无懈可击的摘要”。他声称自己并不清楚AI工具存在“幻觉”问题,即可能虚构不存在的信息。这一说法未能获得法庭认可。法官对此表示难以置信,并反问该律师是否没有关注新闻,最终对其处以5000美元罚款,并将其移交至律师纪律委员会进行调查。

该事件再次将生成式AI在法律等专业场景中的可靠性问题推至台前。尽管大模型在文本摘要、信息检索等任务中展现出效率优势,但其输出内容仍需人工核验,尤其在涉及司法程序等对事实准确性要求极高的领域。法律行业对AI工具的使用边界与责任归属,正成为监管机构和专业协会关注的焦点。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

(0)
印尼配额政策与高库存博弈,镍价困于成本与政策目标区间
上一篇 20小时前
《旅行青蛙》寄来的最后一张明信片
下一篇 20小时前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部