警惕AI法律研究和咨询的风险

现如今，人工智能工具（Artificial Intelligence，下文简称“AI”）已成为人们日常生活的一部分。许多人都在用 ChatGPT、Gemini等其他AI工具，进行各类搜索和提问。有些个人或企业向AI寻求法律资讯和意见，可能会在与律师沟通之前，让AI给自己的案件来个“初诊”。更有甚者，在已聘请律师之后，依然使用AI来“核实”、“扩展”律师给出的法律意见。

虽然AI方便快捷，但无论是用AI做法律研究、或是向AI寻求法律建议，都可能会带来风险，比如：

• AI可能编造虚假的案例、事实及其他信息
• 与AI共享的私密、敏感信息可能不再受法律保密保护

AI可能“发明”不存在的法案或判例

生成式AI最大的风险之一，就是所谓的“幻觉”（hallucination） —— AI可能会输出错误、甚至虚构出来的信息。在法律领域里，这种情况最典型的表现，就是AI可能会“编造”根本不存在的判例。有些人可能会觉得这个问题很好解决，只要自己去搜一下案例，确认它真实存在就行。但现实并没有那么简单：AI不仅可能引用“根本不存在”的案例，它也许会给出真实存在的案件名称、正确引用案件编号，但所谓的“法官原话”，却是由AI“加工、编造”出来的。

即便AI引用的确实是真实案例、真实原文，它仍然可能曲解法官真正的判断逻辑、错误总结法律原则、或是夸大某个案例的适用范围。这意味着无论是专业律师还是普罗大众，都不能在不经核实的情况下，仅依赖AI做法律研究或获取法律意见。

在2026年安大略省的一个案件中（Kapahi Real Estate Inc. v. Elite Real Estate Club of Toronto Inc., 2026 ONSC 1438），一名律师向法院提交了一份书面法律陈述（factum）。这份陈述表面上看并没有问题：引用的都是在 CanLII 等法律数据库可以查到的真实案例，引用格式也符合规范。然而仔细一看，这份陈述中还包含了七段所谓来自法院判决的“原文引用”，但其实这些引文根本不存在。

法院认为，最合理的解释不外乎：该律师用AI起草了那份法律陈述。不过，法院并未正式作出“确实使用AI”的认定，因为相关问题并未经过完整审理。尽管如此，法院仍然将该案件移交至安大略省律师协会（Law Society of Ontario） 进行进一步调查，以审查该律师是否存在违规行为。法院还提及2025年另一宗案件（Ko v. Li, 2025 ONSC 6785）。在该案中，法院甚至讨论过对“援引AI生成虚假案例”这一做法，是否应以“藐视法庭（contempt of court）”论处。

简而言之，无论是不是律师，我们都应该意识到：如果在提交给法院的书面材料或口头陈述中，使用了AI生成的虚假的、或带误导性质的法律信息，都可能带来严重后果，包括：律师纪律处分、法院罚款（浪费司法资源）、甚至在严重情况下面临刑事指控或行政程序。

使用AI可能视同放弃“律师-客户保密特权”

其次，使用AI进行法律研究还可能带来另一个隐蔽但严重的风险：AI使用者可能被认定为已放弃“律师-客户保密特权（solicitor-client privilege）”。最近一宗美国法院的判决，就清楚展现了这一风险。

在美国案件United States v. Heppner, 1:25-cr-00503(JSR), 2026 WL 436479 (S.D.N.Y. Feb. 17, 2026)中，美国纽约南区地方法院（Southern District of New York District Court）认定：被告与生成式AI平台 Claude 之间的部分交流内容，不受“律师-客户保密特权”保护。该案中，被告Heppner被指控证券欺诈、电信诈骗以及公司文件造假等。案件指控其作为多家企业的高管，涉嫌从投资者处非法获取超过$1.5亿美元。

在调查过程中，FBI对被告Heppner的住所执行搜查令，收缴大量电子设备与文件，其中包括约31份文件显示Heppner曾与Claude的对话记录。从这些记录可以看出：Heppner曾使用Claude准备他的“辩护思路”，包括未来可能的抗辩策略，以及对潜在定罪的应对方案。

Heppner的律师主张：这些AI生成的文件应受“律师-客户保密特权”保护，理由包括：其内容部分来源于律师提供的信息，这些材料是为了之后与律师沟通、进一步获得法律意见而准备的，且Heppner也确实把部分AI生成的文件转给过律师。

法院指出，美国法律关于“律师-客户保密特权”有非常明确的准则：该特权保护的是 (1) 客户与律师之间的沟通内容，(2) 该沟通内容原本是出于保密目的，并且确实保持了保密状态，(3) 且该沟通是为了获取或提供法律意见。

然而，本案中这些AI文件并不构成律师与客户之间的沟通。首先，Claude并不是律师，因此这一点本身就足以否定保密特权主张。其次，Heppner和Claude的交流内容本身也不具备保密性。根据该AI平台的隐私政策，用户输入和系统输出的内容都可能被收集，用于Claude模型训练，并且平台还保留向第三方（包括政府监管机构）披露数据的权利。因此，Heppner将信息输入第三方平台、本质上已构成对外披露。第三，Claude明确声明不提供法律意见，因此这些内容也不符合“该沟通是为了获取或提供法律意见”这一条。值得一提的是：本案中，Heppner的律师并未指示或建议Heppner使用AI来与律师沟通或获取法律意见。

法院还强调：原本不受保密保护的内容，不会因为之后转交给律师，变成受保护信息。

虽然上面这个案件来自美国，但美加两国的“律师-客户保密特权”法律准则相近。加国法律框架下的一般规则是：若当事人主动将本应保密的信息披露给第三方，通常会被视为已经放弃该项保密特权。因此，客户应避免将机密信息（如和律师之间的往来邮件、互相传递的文件等）上传至AI系统，以防丧失保密特权。同时，律师也应提醒客户这一风险。

在文章的最后，我们总结一下：一旦客户主动将本应保密的信息分享给第三方，包括AI平台，法律上就可能认为该信息已不再具备保密性，从而导致“律师-客户保密特权”被视为放弃。大多数生成式AI工具的服务条款都已写明：会保存用户输入的内容（prompts）以及AI生成的回答。这也意味着：如果客户把律师的法律意见复制粘贴给AI，就可能在不知不觉中，将这些原本受保护的内容暴露于诉讼过程中的“证据披露（discovery）”之下。

遇事不慌，我们来帮

如您需要法律服务，欢迎您与我们联系。本律所在多个法律领域提供中文服务，请联系中文助理：

也欢迎您点击此处填写我们官网的咨询表格，简述您的问题，会有专人与您取得联系。

【声明】本文内容不构成任何意义上的法律意见，仅作一般参考信息之用。尽管我们在撰文时做了最大努力，本律所无法保证上文内容的准确性、时效性。一切因上文内容导致的直接或间接后果，本律所和/或本文作者不承担任何责任。