美国律师在谋杀案中引用假证人，指责ChatGPT

州最高法院对这名律师处以罚款，并因他未核实法庭文件中的事实而判定他藐视法庭。

新墨西哥州最高法院表示，一名辩护律师对其委托人的谋杀定罪提出上诉，他提交了一份简报，其中包含伪造的警方证词和 OpenAI 的 ChatGPT 捏造的证人。

美国新墨西哥州最高法院周三对律师史蒂芬·亚伦斯 (Stephen Aarons) 处以罚款，并因他未能核实法庭文件的准确性而判定他藐视法庭，亚伦斯表示，该文件是他在人工智能 (AI) 程序的帮助下准备的。

法院表示，该文件“包含完全捏造的证人的虚假证词”。

该小组还表示，亚伦斯“表现出缺乏悔意，也缺乏对他的客户的关心”。法官对 Aarons 处以 5,000 美元罚款，并表示将把他移交给律师纪律委员会进行调查。

Aarons 在给路透社的一份声明中表示，他去年同意受理被告上诉时曾使用 ChatGPT 来总结审判程序，并且不明白人工智能可以“幻觉”事实到什么程度。

“我很懊悔，但希望纪律委员会考虑到这是一个无心的错误，”他说。 “对于所有依赖这种强大但有时不稳定的技术的专业人士来说，这是一个教训。”

OpenAI 没有立即回应置评请求。

法院的制裁是越来越多案件中的最新一起，在这些案件中，州和联邦法官对律师进行纪律处分，因为他们未经充分审查就提交了人工智能工具生成的法庭文件。一些法官还因人工智能的使用而面临审查。

数十名律师因提交人工智能伪造案例引文或错误引用法律的摘要而受到制裁。亚伦斯的文件似乎更进一步，其中包含刑事上诉中捏造的证人证词。

亚伦斯是圣达菲的一名私人律师，负责处理奥斯卡·蕾妮·桑多瓦尔的上诉，桑多瓦尔在去年被定罪并被判处终身监禁之前，对谋杀孩子母亲的行为表示无罪。

该上诉仍在审理中，并于 9 月 2 日被指派给新墨西哥州公设辩护人金·查韦斯·库克 (Kim Chavez Cook)。库克拒绝发表评论。

多纳安娜县地方检察官办公室也拒绝置评。

州最高法院上个月命令亚伦斯解释这些捏造的材料是如何包含在他上诉的主要陈述中的，据称这些材料似乎包括“枪手穿着深色裤子和白衬衫的虚构陈述”。

Aarons 在 8 月 21 日的听证会上告​​诉法庭，他向 ChatGPT 提供了计算机生成的笔录和其他案件材料，认为它会生成“防弹摘要”。

法官们听起来难以置信，因为阿伦斯并没有完全意识到人工智能是如何犯错误的。

“律师，你看新闻吗？你听广播吗？你读过有关世界上正在发生的事情吗？”大法官香农·培根 (C. Shannon Bacon) 在听证会上说道。 “因为律师依赖人工智能幻觉的问题每天都是一个引人注目的故事。”