美国加州两家律所使用 AI 生成虚假材料，遭法官重罚 3.1 万美元

5 月 14 日消息，据外媒 The Verge 今日报道，美国加州一名法官迈克尔・威尔纳严厉批评了两家律师事务所在未披露使用 AI 的情况下提交文件的行为。此前，他收到一份补充文件，其中包含了“大量虚假、不准确且具有误导性”的法律引用。

根据上周提交的一项裁定，迈克尔・威尔纳法官对涉事律师事务所处以 31000 美元（注：现汇率约合 22.3 万元人民币）罚款，并表示：“没有任何合格的律师应该将研究和写作外包给 AI”。

威尔纳法官在裁决中写道：“我阅读了他们的文件，被其中引用的权威材料所吸引，便查找了相关判决，结果发现这些材料根本不存在。这个发现非常可怕，几乎让我犯下更严重的错误，直接将这些虚假的材料纳入司法命令。”

文件中提到，起诉 State Farm 的民事诉讼的原告代理律师使用 AI 生成了一份补充文件的大纲。然而，这份大纲在发送到另一家律师事务所 K&L Gates 时，包含了由 AI 生成的虚假研究内容，而 K&L Gates 则将这些内容添加到了文件中。

威尔纳法官表示：“在提交文件之前，显然没有任何律师或工作人员对这些研究内容进行核对。”

当威尔纳法官审查这份文件时，他发现至少有两个引用的法律资料根本不存在。在向 K&L Gates 要求进一步澄清后，后者重新提交了文件，威尔纳法官表示，新的文件中包含了比最初的两个错误更多的虚假引用。

随后，威尔纳法官发布了一个命令，要求律师提供宣誓声明，确认使用了 AI。负责创建大纲的律师承认使用了谷歌的 Gemini，以及 Westlaw Precision 中的 AI 法律研究工具 CoCounsel。

威尔纳法官总结道：“最初未披露使用 AI 生成文件初稿的行为是彻头彻尾的错误。将这些未经验证的材料发给其他律师，且不揭示其 AI 来源，实际上更将这些专业人士置于极大的风险之中。”