2025-10-09T05:31:56.000Z 人工智能正在进军法律领域。我们准备好迎接机器人成为法官和陪审员了吗？ 当首席大法官安德鲁·贝尔（Andrew Bell）于1995年开始从事律师工作时，紧急文件通过传真传送，各种发票记录在纸质螺旋装订笔记本中，未报告的案件只能在图书馆找到纸质版。他的笔记本电脑甚至没有联网。 三十年后，贝尔坐在悉尼最高法院顶层的办公室里，一力主张余下的法律程序应该由人类而不是机器人来执行。 “有些事情是人工智能不能做的，而且最好不要去做，”贝尔这位现任新南威尔士州最高级别的司法官员告诉澳大利亚广播公司（ABC）。 人们担忧人工智能渗透到世界各地法院系统，反映出一种更深层次的忧虑，即这些工具的使用可能会侵蚀澳大利亚的核心司法价值观。这些价值观是我们作为一个社会历来珍视的原则，以确保法律面前人人平等和我们司法机构的独立性。 缺乏资金或信息的人往往无法获得正义，而那些能够幸运追求正义的人则会发现，司法系统在其自身官僚主义的束缚下摇摇欲坠，充斥着痛苦不堪的拖延和令人困惑的流程。有时是一种昂贵且令人不满意的体验。尽管竭尽全力，但人类仍会做出不一致且主观的决定。伊丽莎白一世和雅各布一世时代的法学家爱德华·科克爵士（Sir Edward Coke）曾说过，法律推理应该是“人工的”，因其不应基于君主或外行人的常识，无论他们多么聪明。 五百年后，法律界面临着无数个极其复杂的问题，即这种推理应该在多大程度上是“人工的”：这些工具是否有能力消除法律程序中的偏见，还是它们是用只会重现偏见的数据进行训练的？如果我的律师使用人工智能来承担大部分工作，他们的费用会更低吗？如果预测软件告诉你可能会输掉诉讼，这是否足以成为放弃诉讼的理由？或许，在这个民主脆弱时代最重要的是，如果法官被算法决策所取代，那么公众会不会对法院失去信心？ 目前这项技术存在缺陷，但当这些缺陷得到解决后，回答这些问题最终将涉及到一个考量，那就是：为了节省时间、金钱和保证客观性，我们愿意将哪些工作外包给机器人，以及我们认为哪些决定应该由人类负责。 律师们已经在使用生成式人工智能。我们准备好让机器人成为法官和陪审团了吗？ 虚假、过时且被歪曲 “2020年代将是人工智能在法律领域确立地位的十年，”著名法学家理查德·萨斯坎德（Richard Susskind）在其著作《明日律师》（Tomorrow’s Lawyers）中写道。 萨斯坎德表示，“法律科技”发展的最初65年催生了一种自动化，将软件和数字工具嫁接到律师的传统工作上。但他预测，到2040年，法律行业将发生翻天覆地的变化。 “如今的机器能够做出预测、识别相关文件、回答问题，并以比人类更高的水平衡量情绪，因此我们不禁要问：未来几十年里，我们的法律工作将由人还是系统来执行，这一问题不仅合理，而且至关重要。” 联合国教科文组织2024年的一项调查发现，96个国家的44%的司法人员（包括法官、检察官和律师）已经在使用诸如ChatGPT之类的生成式人工智能工具来完成工作相关的任务。在澳大利亚，律师事务所正投资于各种人工智能工具，并且多年来一直致力于使用人工智能工具，无论是查找与诉讼相关的文件、审查文件和合同、起草法律建议，还是将法律案件转化为播客摘要，供他们在下班回家的公交车上收听，或者正如一位合伙人所描述的那样，成为“认知陪练伙伴”。 这类工作大部分没有争议，但在过去几年中，澳大利亚已经出现了数十起——至少84起——生成式人工智能生成“幻觉”内容的案例：这些信息看似事实，但其实毫无根据。这些内容可能是虚假的引证，也可能是过时的建议或由律师或（更常见的是）自我辩护的诉讼当事人向法院提交的被歪曲的判例。 很难想象还有哪个案件比一名儿童被控谋杀的案件风险更高。今年 8月，维多利亚州一位高级大法官代表一名面临此项指控的男孩，该男孩因精神障碍被判无罪。这位大法官在提交了包含人工智能生成的幻觉内容、虚假引述和虚假判决的陈述后，对此表示道歉。 “我们对所发生的事情深感抱歉和羞愧，” 这位律师告诉法官说。 最高法院法官詹姆斯·埃利奥特（James Elliott）表示，用“不令人满意”来形容这一情况可能“轻描淡写了”。 “在没有律师仔细监督的情况下使用人工智能将严重损害法院伸张正义的能力。” 继昆士兰州和维多利亚州之后，新州首席大法官贝尔去年年底向该州的律师和法官发布了执行指南，指导他们如何使用人工智能——律师不得将其用于宣誓作证书、证人陈述和品格证明，而法官不应将其用于初步法律研究。 今年8月，新州地方法院法官朱迪思·吉布森（Judith Gibson）就一起民事案件作出判决，对一位自我辩护的诉讼原告使用生成式人工智能的行为进行了谴责。对原告来说不幸的是，吉布森所说的“完全虚构的判决”声称身为主审法官的她是这一判决的作者。 这是一个全球现象。美国阿拉巴马州的一位法官最近采取了一种新颖的方式，对那些提交了由人工智能幻觉生成的虚构案例的律师进行了训诫。他向他们发出了最后通牒——要么支付数千美元的罚款并被提交到州律师协会，或者致信他们以前的法学院院长和律师协会官员解释他们的错误，并自愿就人工智能和职业行为发表演讲。上个月，一位加州律师因提交了一份充斥着ChatGPT幻觉的上诉而被罚款1.5万澳元。 今年9月，维多利亚州一名律师因在法庭案件中使用人工智能而面临职业处罚，成为澳大利亚首例。他此前向法庭提供了包含虚假引证的文件。 贝尔不仅担心这些人工智能“幻觉”泛滥，还担心人工智能会生成看似真实的文件，使证据更难收集或辩护，并可能造成“骗子红利”，即真实证据可能被他人声称经过了数字篡改。最近在美国加利福尼亚州，原告提交了伪造的人工智能生成证据，包括虚假的视频“证词”，导致整个案件被驳回。 底层数据的完整性以及这些人工智能工具倾向于提供错误答案而非完全不提供答案也让贝尔深感担忧。 最近，他的同事向聊天机器人GPT询问贝尔作为法官的形象。显然是“保守派”。当被要求提供这一描述的来源时，该机器人引用了《澳大利亚金融评论报》2023年的一篇文章。在再次追问下，它最终承认根本不存在使用这一表述的文章。 机器人法官的崛起 说到法院，新冠疫情为包括澳大利亚在内的许多国家意外开启了一段试点期，尝试一种不那么人性化的法庭体验。疫情期间的社交隔离规定使得远程听证会成为必要，撇开语言和无障碍设施方面的考虑，远程听证会最终被证明是可行的。加拿大设立了一个在线法庭，最初主要处理小额民事索赔和房屋产权纠纷，但现在也涵盖了其他纠纷，例如车祸纠纷。 美国和中国也设有在线法庭，但这些法庭不涉及听证或口头辩论。这剥夺了许多人珍视的体验：出庭受审。 贝尔反思了我们目前对刑事司法系统人工参与程度的期望。 “如果是陪审团审判，你的[陪审团]同胞们肯定会聆听人类律师的申诉，整个程序由一位人类法官监督，这位法官并非随便哪个人，而是基于其正直、经验和某种智慧而被任命的，”贝尔说道。 “[这是]一个拥有公众信任和信心，能够确保审判公正的人。” 2023年，英格兰和威尔士民事司法部副部长科林·比尔斯勋爵（Colin Birss Lord Justice）称ChatGPT“非常有用”。他使用ChatGPT总结了某个法律领域并将其纳入自己的判决，此举标志着英国法官首次使用人工智能聊天机器人。 贝尔认为，目前人类司法官员应该做两件事：行使自由裁量权，做出定性和评估性判断，以及查明事实。 “实际上，法院的大部分工作是确定有争议的事实问题，并确定谁的说法是正确的，”他说。 “这包括听取证据、协助证人、阅读和分析文件，尤其是原则，但查明事实过程是人工智能无法完成或无法有效完成的，至少目前是这样，”贝尔辩称。 “部分原因是，在某些类型的案件中，它涉及对举止、证人可信度等的评估。” 大多数法官在进行和见证交叉询问以及解读非语言线索方面拥有数十年的经验，这些经验是现有人工智能工具目前无法匹敌的。正因如此，英格兰和威尔士高级法官杰弗里·沃斯爵士（Sir Geoffrey Vos）表示，如果要使用人工智能来裁决某些案件，我们或许较有信心认为它能胜任处理“个人关系不那么密切的纠纷”，例如商业或赔偿案件。 但在情商方面，人工智能正在取得进步——今年早些时候发布的一项研究发现，ChatGPT、Gemini 和 Copilot 等大型语言模型在五项情商测试中的表现优于人类（机器人平均得分为 81%，而人类得分为 56%）。 人工智能的蓬勃发展拓展了虚拟法庭的潜力。 在中国，人工智能技术已应用于该国的“智慧法院”，据报法院官员使用深度求索（DeepSeek）在几分钟内起草各种法律判决书。最近，深圳一家法院的一项研究考察了法官如何使用大型语言模型生成司法意见，结果发现“这可能会通过强化法官们先前的信念，放大司法决策中的错误和偏见”。 贝尔表示，问责制是需要考虑的因素。澳大利亚拥有“上诉安全网”——有权对法官或陪审团的裁决提出质疑和上诉——此举让人类做出的裁决可以接受审查和修改。 “这些都是增强刑事司法系统合法性的重要特征，”他补充道，人工智能或会“蚕食司法过程中的这些人类因素”。 法律的生存危机 ARC自动决策与社会卓越中心首席研究员、法学教授金伯利·韦瑟罗尔（Kimberlee Weatherall）表示，尽管“各律师事务所已全力投入这一科技”，但法律界的大多数人“非常强调审判是人类的事情”。 “法律界拥有这股势不可挡的力量，然后遇到法院这一可能无法动摇的目标，” 韦瑟罗尔表示。他补充说，人工智能可能需要更高的事实核查工作量，幻觉事件的增多就凸显了这一点。 “这让我很担心，因为没有人提议任命更多法官了，” 韦瑟罗尔说。 “当你审视司法系统时，真相、准确性、正直、透明、可解释性，这些对法院来说至关重要……如果法院不能做到这些，那么你知道，这不仅会彻底损害他们的声誉，还会让他们失去存在的意义。” 莱里亚·贝内特·摩西斯（Lyria Bennett Moses） 深入思考了人工智能的使用将如何影响人们对法律程序以及法律面前人人平等理念的信任和信念。 “程序至关重要——法官是人这一点很重要，即如果他们自己或他们所爱之人犯了同样的罪行，那么也会在类似的法庭上受到类似法官的同样逻辑的惩罚，”她说道。 “这才是法治的根本所在，即做出这一裁决的人也要遵守这些法律。” 贝内特·摩西斯是新南威尔士大学法律、社会与犯罪学院的教授兼院长，她表示从产出和结果的角度来思考人工智能很有帮助。即使产出有所改进——即人工智能幻觉已成过去式，而且大型语言模型能够做出“普通人无法区分的卓越判断”——结果仍可能很糟糕。 “比如，公众可能会对司法系统和政府失去信心，因为他们会将其看作人工智能的霸主，会对此深感苦恼，”她说。 “也许他们不再信任司法系统，这可能会导致犯罪率上升，社会法治崩溃，澳大利亚就会变成一个烂摊子，对吧？” 应该让统计数据驱动如何量刑吗？ 贝内特·摩西斯与澳大利亚司法行政研究所合作，为法官、法庭成员和法院行政人员撰写了一本关于人工智能决策和法院的指南。该指南探讨了人工智能如何促进和阻碍司法价值观，例如问责制、法律面前人人平等和司法公开。 人工智能可以彻底改变转录和翻译服务，使更多人能够审查法庭诉讼程序。但在透明度至关重要的领域，人工智能工具的创造者——最终是商业实体——必须公开其方法和数据的完整性，以便法官或法院能够解释其流程或决策背后的原因。 贝内特·摩西斯提到了一种名为“惩教罪犯管理替代制裁分析”（COMPAS）的算法，该算法已被美国多个州的法官用于计算被告的累犯风险——即他们再次犯罪的可能性——以帮助做出刑事保释和量刑决定。 她指出，通常在量刑时，法官可能会听取当事人心理医生关于其精神状态的证词，或听取牧师的证词，“牧师可能会说，当事人已经改变了想法，发现了宗教信仰”，或者听取社区其他人的证词。 “但这与统计学上的推理截然不同。统计学的推理会说，你父母在你三岁时离婚了，我们知道这样的人容易成为惯犯，所以我们会把你关更长时间，”她说。 “确实存在一些值得思考的问题，关于法律面前的平等究竟意味着什么，比如，你被当作一个群体的成员来对待，而这个群体过去的行为在统计学上表明了某种特征，并在你受到何种对待时将其考虑了进去。” 贝内特·摩西斯说，这是一种不同的推理模式，“法院不必轻率地采纳这种模式”。 COMPAS训练数据本身就存在人为偏见，该人工智能工具因与种族特征相关的假阳性和假阴性率而受到批评。2016年 ProPublica的一项调查发现，COMPAS公式更有可能将黑人被告错误地标记为未来的罪犯，错误标记黑人被告的概率几乎是白人被告的两倍。 正如贝内特·摩西斯所指出的，COMPAS和许多其他人工智能工具背后的逻辑并不为控方、辩方或法官所知。 人工智能的平等诉求论 然而，司法的另一个核心价值是司法公正，而人们经常认为，人工智能在这方面可以提供帮助。律师费用高昂，并非每个人都能获得法律援助。司法系统不透明，难以穿行其间。国家司法项目创建了世界上首个生成式人工智能法律自助工具之一——“听我说完”（Hear Me Out）。 这个免费网站由国家司法项目与新南威尔士大学卡尔多中心合作创建，旨在帮助人们了解自己的法律权利以及可以在哪里提出正式投诉，投诉机构涵盖人权委员会、各反腐机构以及州和联邦监察专员等300多个投诉机构。 国家司法项目的项目和创新负责人阿丽亚娜·多泽尔（ Ariane Dozer）表示，这些投诉系统未能满足某些群体的需求，而类似这样的工具“改善了司法公正的可及性”。你不需要法律学位，不需要任何法律知识，更重要的是，你不需要律师就能获得更多关于在哪里以及如何提出投诉的信息。 “这确实在弥合这一差距，确保每个人都能获得信息和工具来帮助他们，以及获得服务和支持来帮助他们纠正错误或解决他们所经历的不公正，” 多泽尔说。 该人工智能工具不收集数据，因此无法追踪究竟有多少人提出了投诉，但多泽尔表示，收到的投诉类型通常涉及工作场所伤害——“种族虐待和歧视、雇主威胁和报复”；涉及警务——种族定性和“遭到警察殴打或威胁”；以及住房问题。 该团队还在开发一款投诉撰写工具，帮助人们满足每个投诉机构的具体要求。 多泽尔表示，它的适用范围远不止个人寻求正义：“如果我们能够帮助需要访问这些系统的人更有效更高效地使用，并且更频繁地使用，那么我们坚信这些系统有能力帮助解决我们在社区中看到的那些系统性问题。” 人工智能能力局限性 澳大利亚首席大法官斯蒂芬·加格勒（Stephen Gageler）将人工智能描述为对司法系统构成“生存”威胁。他告诉ABC说，各行各业的人都在问：“我该如何使用这种新工具来提高低价值但劳动密集型工作的效率？” “执业律师面临的挑战是确保效率的提升不会以专业水准的下降为代价，” 加格勒表示。 今年11月，加格勒将与澳大利亚顶级法官们一起出席在堪培拉举行的澳大利亚法律大会，大会期间将举办多场关于人工智能的会议，探讨人工智能在法律实践、法院和大学中的应用。 铭德律师事务所（MinterEllison）咨询部门的合伙人杰森·麦奎伦（Jason McQuillen）表示，包括律师、顾问和后台团队在内的员工中有85%“每周至少使用一次”人工智能。 麦奎伦引用了美国律师杰夫·卡尔（ Jeff Carr ）的研究成果，卡尔将律师的工作分为四类：流程（收集文件并引导案件完成法律程序）、内容（起草法律建议、进行研究并解答法律问题）、咨询（就客户应采取的途径提供建议）以及辩护（代表客户利益与对方沟通）。 人工智能已经并将继续在前两类工作中发挥更大的作用——大量流程正日益自动化，而人工智能工具的研究能力意味着它们将参与内容的制作。 在铭德律师事务所，律师们正在使用诸如生成式人工智能聊天机器人微软Copilot 之类的程序来提高“整体效率”——总结文件和会议记录，并使用名为灯笼AI（Lantern AI ）的程序进行“电子取证”（识别、收集和审查诉讼所需的电子存储证据）。麦奎伦强调，仍有“一名律师在场”来检查这项工作。 但谈到咨询和辩护，麦奎伦表示，这些工作“几乎是人类独有的”——律师并不依赖机器人来建议客户是否应该和解诉讼，或“在合同中争取相关条款”，或在调解或法庭上代表他们进行辩护。 “[律师]需要进行研究，而这些人工智能工具让研究变得更加容易，但他们还需要在其他方面加倍努力，使其更加人性化，为客户提供建议或决策，并在整个过程中为他们提供咨询，然后代表他们进行辩护。” 法学院学生的未来 如果律师的日常工作正在迅速变化，那就不禁要问：他们在法学学位课程中教授什么？如果所有这些入门级的研究和行政工作都被人工智能取代，这对那些刚毕业律师的职业道路意味着什么？ 昆士兰科技大学法学院学者费利西蒂·迪恩 （Felicity Deane） 和拉克兰·罗布（ Lachlan Robb） 最近联合撰写了一篇论文，他们采访了来自27个机构的51位人士，探讨了澳大利亚法律界如何使用人工智能工具，以了解法律教育是否跟上了人工智能带来的职业变革。他们发现，虽然生成式人工智能或许尚未取代律师，但它正在重新定义法律实践中的能力和价值。 与那些投资开发他们自己的人工智能工具的大律所不同，采访结果表明，小型律所“或许正在使用聊天GPT来完成毕业生可以完成的工作”。 “但接下来的问题是：五年或十年后，谁来继续执业？”迪恩问道。 两人还警告说，如果人工智能独占日常工作，那么一些法律技能对于刚毕业的律师来说可能越来越难掌握，而且需要法律学位来弥补所教授的技能与实际实践需求之间的差距。 罗布表示，即使法学院学生未来的工作将由人工智能辅助，他们仍然需要成为法律思考者。 “律师的作用是知道该提出什么问题，人工智能的使用也是如此——你需要知道用什么来提示它，”罗布说。 “在我刚教完的这门课里，考试不及格的人中90%是因为他们根本没看懂题目，写了三页完全不相关的内容。看起来不错，但完全搞错了问题。” “同样的情况也可能发生在人工智能上——它可能会针对错误的问题给出精彩的答案，所以大学的角色不会发生太大变化，因为我们仍然需要教学生基本功。” 新州法官贝尔坚信，法律教育是一项终身努力，大学毕业后仍需孜孜不倦。 他办公室的墙上摆满了栗色皮革封面的书籍，这些书籍汇集了法院判决的案例法中的司法意见并由编辑精心挑选——正如贝尔所说，这些判决之所以被挑选出来，是因为它们“在原则上足够重要”。 他怀疑人工智能能否“深入理解”这些原则的应用方式，他认为这会影响法律建议的质量。 “有些人认为，因为我采取了谨慎的态度，所以我本质上一定是保守派，或在本质上反对技术发展，但我秉持的机构责任是确保法院查明事实，忠实地适用法律，并由人类给出理由，”贝尔说道。 贝尔表示，法院程序需要与公民国家机构合作，与那些宣誓公正正直、在决策过程中将自己的名誉置于风险之中并接受批评的人合作。 “一方会赢，另一方输了，你可以上诉，”他说。“但这是持续尊重独立法院作用的一个非常重要的方面。” 制作团队 撰稿: Gina Rushton 编辑: Catherine Taylor 插画: Lindsay Dunbar 相关英文文章 Posted 17m ago17 minutes agoThu 9 Oct 2025 at 5:31am 获取更多RSS： https://feedx.net https://feedx.site