9 月 23 日消息，据 Ssbcrack 报道，一名美国加利福尼亚州律师因在向州法院提交的上诉文件中使用人工智能工具 ChatGPT 生成虚假引文，被法院裁定处以 1 万美元（注：现汇率约合 71149 元人民币）罚款。
据悉，这是加州法院迄今为止就 AI 伪造内容问题开出的最重罚单。判决书显示，该律师的开篇陈述中引用的 23 条判例引文中有 21 条系虚构。法院强调了个人核实的重要性，明确指出：任何法律文书中的引用都必须由律师亲自阅读并确认其真实性，不得包含未经核实的来源。
加利福尼亚州第二区上诉法院发布此项裁决，意在向法律界发出严厉警告。该法院指出，全美各地法院正越来越多地面临律师引用虚假法律先例的问题。这一判决恰逢加州加强监管之际，加州司法委员会已要求各法院法官及工作人员在 12 月中旬前，要么禁止使用生成式人工智能，要么制定明确的使用政策。与此同时，加州律师协会也正在重新审视其职业行为准则，以应对人工智能技术快速发展带来的挑战。
被处罚的律师阿米尔・穆斯塔法维（Amir Mostafavi）承认，在 2023 年 7 月提交上诉文件前，他并未审阅 AI 生成的内容。他表示，自己仅是借助 ChatGPT 优化文书表达，未曾意识到该工具会凭空捏造案件引文。穆斯塔法维辩称，完全摒弃人工智能对律师而言并不现实，AI 如今已成为不可或缺的资源，其作用堪比当年从实体法律图书馆向在线数据库的转型，但他同时警告：“只要 AI 系统仍会生成错误信息，法律从业者就必须谨慎使用。在此期间，我们注定会看到一些受害者、遭受一些损失、经历一些破坏。”
此次对穆斯塔法维的罚款被认为是针对律师滥用 AI 行为所开出的最高罚单之一。今年早些时候，加州一联邦地区法院法官曾裁定两家律师事务所赔偿超过 3.1 万美元（现汇率约合 22.1 万元人民币），原因是其提交的研究材料依赖了 AI 生成的错误信息。该法官明确表示自己感到被误导，并强调必须建立强有力的惩戒机制，以遏制类似事件再次发生。
专家预测，随着生成式 AI 在法律行业的广泛应用，律师引用虚构判例的案例数量将持续上升。一项追踪统计显示，美国已记录此类事件逾 600 起，其中约 52 起发生在加州。这一上升趋势凸显出法律从业者亟需接受教育并保持警惕，特别是在识别和验证 AI 生成信息方面的能力培养。
法律观察人士强调，加强对 AI 技术的认知至关重要，因为许多律师尚未充分意识到 AI“幻觉”（hallucination，即编造虚假信息）的风险。有观点建议，对误用 AI 的律师应实施强制性培训课程，作为预防未来失误的补救措施。此外，已有担忧指出，虚假判例不仅出现在律师的文件中，甚至可能被法官在其判决书中引用，表明问题的影响范围可能远超执业律师群体。
