生成式AI把不存在的判例写进法庭文件,加州检察官办公室接受调查
生成式AI
根据人的要求生成文字的电脑工具。
人身保护申请
请求法官让被关着的人出来的法律申请。
制裁
法院对违规行为作出的处罚。
发生了什么
美国加利福尼亚州的内华达县地方检察官办公室,负责代表政府起诉刑事案件。过去秋天的约两个月里,检察官用生成式AI起草或校对刑事案件的法庭文件。办公室承认,四起重罪案件的文件出现了与AI使用相符的错误。
这些文件里有不存在的判例引文、虚假的事实,或与真实案件不相符的法律说明。其中一件涉及一份人身保护申请,也就是请求释放一名被关押男子的法律文件。加州上诉法院已经指定一名法官,调查事情经过,并考虑是否处罚地方检察官杰西·威尔逊的办公室。指定调查法官不等于已经认定违规,也不等于处罚已经决定。
争议从哪里来
前副检察官麦迪逊·麦克斯韦在宣誓声明中说,上司在没有书面规则和培训的情况下鼓励使用AI。她还说,自己发现错误后,上司阻止她立即通知法院、辩护律师和被告。这些是麦克斯韦的陈述,目前仍是调查的一部分。
麦克斯韦负责四起案件中的三起,并在2026年5月离开了该办公室。办公室表示,他们检查了大约18个月的案件文件,没有发现四起案件之外还存在更广泛的AI错误模式。不过,公开报道显示,这份内部检查的完整结果是否公开,仍不清楚。
为什么重要
法庭文件不是普通草稿,而是提交给法官参考的正式内容。法律引文用来说明一个观点依据哪条法律或哪个判例。如果引文指向不存在的案件,法官和对方律师就无法核对依据。
这在刑事案件中尤其严重。其中一份文件关系到被关押者能否获释。错误可能影响法院如何看待一个人的自由。检察官代表政府一方行事,因此通常被期待遵守更严格的专业责任。
这起事件也说明,生成式AI能写出通顺的句子,却不会自动保证每个事实和判例都是真的。问题不只在于使用了AI,还在于提交前有没有逐项检查,以及发现错误后有没有及时告知相关人员。
已经确认的情况
内华达县地方检察官办公室已经承认,四起重罪案件出现了与生成式AI有关的错误。2026年1月,加州最高法院要求上诉法院更深入地调查错误范围,以及错误是否影响了案件。最高法院还推翻了一项原本可能保护该办公室、使其免受制裁的下级法院裁定。
内华达县公设辩护人办公室和民权组织 Civil Rights Corps 要求展开更深入的调查。20多名人工智能专家也敦促上诉法院继续调查。这些行动表明,争议已经不只是某一份文件的问题,但它们本身不等于所有指控都已经被证实。
仍然不清楚什么
目前还没有公开所有错误引文和错误陈述的完整内容。人们也不清楚每名被告及其律师何时得知这些错误。四起案件的结果是否受到影响,尚未确定。法院也还没有决定是否处罚该办公室或相关人员。
接下来关注什么
接下来要看被指定法官的调查。法院可能进一步说明哪些内容被提交、谁知道错误,以及文件经过了怎样的检查。受影响的被告是否需要得到更正后的记录或其他救济,也值得关注。
另一个重点是检察官办公室如何回应。如果它建立书面规则、开展培训,并要求工作人员逐项核对,才能看出是否能减少类似问题。
AI把假的判例写进了法庭文件
📰 完整报道: 生成式AI把不存在的判例写进法庭文件,加州检察官办公室接受调查
检察官使用的AI写出了不存在的案件和错误内容。
生成式AI
按人的要求写文字的电脑工具。
法律引文
文件里用来指向法律或判例的文字。
重罪
法律规定的严重犯罪。
💡 一句话总结
- 四起刑事案件的法庭文件出现了AI错误。
- 文件里有不存在的判例,也有错误事实。
- 法院正在调查事情经过和可能的处罚。
加州内华达县的地方检察官办公室,负责代表政府起诉刑事案件。过去秋天,检察官用了生成式AI。生成式AI就是按要求写文字的电脑工具。他们用它起草和检查法庭文件。
办公室承认,四起重罪案件的文件出了错。重罪是法律规定的严重犯罪。有些文件写了不存在的判例。还有些内容把事实或法律写错了。其中一份文件请求释放一名被关押的男子。
法庭文件会送给法官阅读。法官会根据文件和其他内容作出决定。法律引文是文件里指向法律或判例的文字。如果引文不存在,法官就无法核对。刑事案件还可能影响一个人的自由,所以这不是普通的写作错误。
前检察官麦迪逊·麦克斯韦说,上司在没有规则和培训时鼓励使用AI。她还说,自己没有被允许马上报告错误。这些说法仍在调查中。办公室则表示,他们检查了大约18个月的文件,没有发现四起案件之外的更广泛AI错误。完整检查结果是否公开,仍不清楚。
2026年1月,加州最高法院要求上诉法院进一步调查。上诉法院后来指定一名法官处理此事。法官会考虑是否处罚检察官办公室,但目前还没有作出决定。
接下来,人们会关注调查结果。大家也会看受影响的案件是否需要改正文件,以及办公室是否制定新的使用规则。这个事件提醒人们,AI可以帮忙写字,但重要内容仍要由人认真核对。
AI写了假的法庭故事
📰 完整报道: 生成式AI把不存在的判例写进法庭文件,加州检察官办公室接受调查
会写句子的电脑,把错误内容放进了法庭文件。
生成式AI
会帮人写句子的电脑工具。
地方检察官
在法庭上代表政府一方说话的人。
加州的内华达县地方检察官办公室,是在法庭上代表政府的人。那里用了生成式AI。生成式AI是会写句子的电脑工具。
AI写出了假的法庭故事。四起重罪案件的文件出了错。一份文件请求让被关着的人出来。
法官会读这些文件。所以,文字必须是真的。
法院找来一名法官调查。调查就是仔细找答案。还没有决定要不要处罚。
前检察官麦迪逊·麦克斯韦说,上司不让她马上报告错误。这句话也还在调查。
电脑可以帮忙写字。大人送出文件前,必须自己检查。