Miss汉谟拉比 26-03-17 10:11
微博认证:2024微博年度新知博主 情感博主 头条文章作者

新加坡律政部 2026 年 3 月 6 日发布的《法律行业使用生成式人工智能指南》(随便搜搜都能搜到)如果需要,我放评论区。
指南并非强制性规范,而是原则导向的实践框架,面向私人执业律师、公司法务、辅助法律专业人士、替代性法律服务提供者乃至法学院学生。它以IMDA的《生成式AI模型治理框架》为基础,与新加坡法院的GenAI指南及《国家AI战略2.0》相互衔接。
我估计后期我们国家也会针对法律工作者出这样的指南,所以先学一下,指南解决了以下几个问题:
一、谁对 GenAI (生成式人工智能,下同)输出承担最终责任?(幻觉、错误法源、偏见风险)
指南的原则是 “终局责任不转移、不豁免” ,指南明确,无论是否使用 GenAI 工具,法律专业人士始终要对其出具的全部工作成果、提供的法律服务承担完整的、不可推卸的执业责任,GenAI 的使用不会转移、更不会减轻律师的法定执业义务。针对 GenAI 最核心的幻觉、错误法源风险,指南强制要求,所有 GenAI 生成的内容在纳入工作成果、交付客户或提交法院前,律师必须完成全流程人工核验,尤其要重点确认法源的权威性、案例在对应法域的现行有效性、法律推理的逻辑严谨性,杜绝无人工复核的直接使用。
同时,指南提出了行业公认的核心准则 ,GenAI 是 “Copilot(副驾驶)而非 Autopilot(自动驾驶)”,明确其仅能作为律师执业的辅助工具,绝对不能替代律师的独立专业判断。为了让这一原则落地,指南还配套了风险分级监督机制,根据任务的法律后果、审查强度划分风险等级,低风险行政事务可采用 “人在环上” 的监督模式,而法院提交文件、正式法律意见书、重大商业合同等核心高风险任务,必须执行 “人在回路” 的全流程把控,律师要全程主导、全面复核、最终定稿。
此外,指南还针对青年律师培养作出专门规定,明确培训的核心不仅是教律师用 AI,更是要培养其评估、质疑、完善 GenAI 输出的核心法律能力,避免因过度依赖 AI 导致基础执业能力退化,从根源上守住律师胜任执业的法定义务。

二、把客户机密丢进 ChatGPT 等免费工具,是否违反保密义务?
本部分严格对应新加坡《2015 年法律职业(专业操守)规则》第 6 条律师保密基本义务,同时衔接新加坡《2012 年个人资料保护法》(PDPA)关于个人数据处理的合规要求,以及新加坡企业法务协会(SCCA)《企业法务伦理守则》中企业法务对所属组织商业信息的保密义务。
客户信息泄露是法律行业 GenAI 应用最高发、后果最严重的合规风险,指南给出了全场景、分级别的保密合规方案,明确保密义务不因技术工具的使用而有任何豁免,无论使用何种工具,律师的法定保密义务始终不变。
针对免费公共 GenAI 工具,指南明确划定红线:严禁直接输入客户机密信息、未公开案件细节、商业秘密等敏感内容;若确有必要使用,必须执行三重合规操作:一是关闭数据保留、用于模型训练的相关设置并定期核查,二是通过通用占位符替换所有识别性信息完成匿名化处理,三是将具体案件问题转化为无指向性的假设场景提问,同时特别提示,即便完成匿名化,上下文信息充分时仍存在被重新识别的风险,必须做好使用留痕。
针对企业级商用现成工具(COTS),指南提出了刚性合规要求:必须通过合同条款明确禁止供应商将律所 / 客户的输入、输出数据用于模型训练,必须支持用户选择退出数据训练;要全面审查供应商的数据存储地点、跨境传输规则,确保符合客户的数据驻留要求;优先选择具备 SOC 2 Type II、ISO/IEC 27001 等权威安全认证,具备加密、审计日志、精细化访问控制的企业级工具。
针对律所 / 企业自研的 GenAI 系统,指南要求必须对模型开发全流程进行审查,重点核查输入数据的存储、处理与训练规则,所有包含客户信息的专有训练数据,使用前必须完成全面匿名化处理,绝对不能因模型训练损害客户保密性。

三、是否要向客户披露我们在用 AI?
指南明确划定了三大必须向客户 / 业务单元披露的场景,只要符合其中一种,就必须履行披露义务:一是 GenAI 在生成客户将据以依赖的核心工作成果中被大量使用,包括合同审查、诉讼策略制定、案件结果评估、法律意见书起草、诉讼文书定稿等核心法律服务环节;二是 GenAI 的使用会影响法律服务的成本与收费,将GenAI工具成本以超出传统计时收费的方式计入客户费用;三是 GenAI 工具的数据处理规则,与客户的特定保密偏好、数据驻留要求存在冲突的情况。
针对披露的实操要求,指南明确了披露的核心内容:需向客户说明使用的 GenAI 工具类型、在法律服务流程中的使用环节、使用人员、对 AI 输出的核验措施、数据保密保障方案,同时必须明确告知客户,即便使用了 GenAI,律师仍对工作成果承担全部责任。指南特别要求,必须向客户提供选择退出在其事项中使用 GenAI 的权利,同时同步说明退出可能带来的交付周期延长、服务成本上升等影响,避免后续争议。
此外,指南还配套了可直接复制到委托函中的示范披露条款,同时收录了多家国际律所的披露实操案例,包括在官网公示 AI 使用政策、在委托协议中加入专项条款、设立专门的客户咨询渠道等。

四. AI 输出有偏见怎么办?(历史判例偏见、算法设计偏见、反馈循环)
偏见是 GenAI 与传统 AI 共有的固有风险,却在此前的职业伦理规范中处于空白地带,实务中,训练数据中的历史成见、样本失衡、算法设计偏差、反馈循环强化,都可能导致 AI 输出出现歧视性内容、对特定群体 / 案件类型的不当预判,律师若未识别,将直接引发执业过失与声誉风险。
指南明确偏见是 GenAI 无法彻底消除的固有风险,律师负有通过主动监督、审慎核验缓释偏见风险的法定义务。指南明确了偏见的三大核心来源:一是训练数据中反映的历史成见或样本失衡,二是算法设计中不合理的变量选择导致的推理扭曲,三是偏差输出形成的反馈回路进一步强化歧视性模式,针对每一类风险都给出了对应的实操解决方案。
指南要求,律师使用 GenAI 时,必须通过相称的人类监督主动识别并处理潜在偏见,具体包括三项核心措施:一是使用不同案件类型、不同客户群体的场景测试 GenAI 输出,排查是否存在系统性偏见;二是要求 GenAI 对其给出的法律建议、结论背后的推理逻辑作出明确解释,倒查是否存在不合理的偏见因素;三是在工具选型时,优先选择已完成系统性偏见测试、具备成熟偏见缓释措施的 GenAI 供应商。同时指南特别强调,当律师在自身不熟悉的专业领域使用 GenAI 时,必须进一步提高审查强度,更严格地识别潜在的幻觉与偏见风险,确保符合胜任执业的法定义务。

五. 知识产权风险(AI 生成内容是否侵权?版权归属?)
AI 生成内容的版权侵权风险、权属争议,是法律行业应用 GenAI 的另一大隐形风险,实务中已出现 AI 生成内容侵犯第三方版权、权属不明引发的客户纠纷,而此前行业缺乏明确的合规操作标准。
指南针对这一问题,给出了全流程的风险防控方案,核心明确:律师作为法律服务的提供者,需对其交付给客户的内容承担知识产权合规责任,即便内容由 AI 生成,相关侵权风险的最终责任仍由律师承担,必须提前做好全流程防控。
具体而言,指南明确了三大核心合规要求:一是严禁要求 GenAI 复制、挪用第三方受版权保护的内容,禁止通过提示词指令 AI 抄袭他人的法律文书、合同模板、学术成果等专有内容;二是建立强制核验机制,对 GenAI 生成的核心内容,必须通过查重、反向检索等方式,检查是否存在未经授权复制第三方作品的情况,杜绝侵权风险;三是严格审查供应商的服务条款,重点确认工具允许的使用场景、侵权赔偿责任安排、AI 生成内容的版权归属,提前通过合同条款厘清权责,避免后续版权纠纷。同时指南提示,可同步参考新加坡知识产权局发布的 AI 与版权专项指引,完善全流程知识产权合规管理。

六. 律所 / 法务团队如何系统性落地而非乱用?
指南不仅给出了可直接复制、分步实施的五步法落地框架,还配套了全流程的政策模板、检查清单、实操案例,适配不同规模、不同技术成熟度的机构,大家这块可以自己去看指南。
首先,指南根据机构的 AI 应用成熟度,划分了三个渐进式采用阶段:第一阶段是基础起步阶段,使用通用 GenAI 工具处理常规任务;第二阶段是规模化应用阶段,采用商用法律垂直 GenAI 工具处理核心法律任务;第三阶段是深度定制阶段,同步应用商用工具与自研定制化 AI 方案,机构可根据自身情况选择对应的落地路径,避免一刀切的治理要求。
在此基础上,指南给出了可直接复用的五步法实施框架:第一步制定 AI 采用框架,搭建内部治理政策与外部披露政策;第二步诊断与分析需求,梳理工作流痛点,识别适配的 GenAI 用例;第三步识别并评估 GenAI 工具,建立标准化的供应商尽调流程;第四步实施与培训,通过试点项目分阶段落地,开展全员 AI 合规培训;第五步持续审查与改进,定期评估实施效果,同步更新政策与规则。
针对治理体系的核心要素,指南也给出了明确的落地标准:治理结构上,小型律所 / 团队可指定专门的 AI 负责人,大型机构需设立跨部门 AI 治理委员会,统筹全流程监督与管理;核心制度上,必须明确批准使用的工具白名单、数据分类分级使用规则、采购尽调标准、事件响应协议,其中事件响应协议必须对接 PDPC 的数据泄露通知义务,明确 AI 误用、数据泄露、输出重大错误的报告流程、处置方案与客户通知机制;能力建设上,必须建立常态化的培训体系,将 AI 伦理、合规使用、提示工程、风险防控纳入全员培训与年度考核,确保所有使用者具备匹配的 AI 素养。
同时,指南通过附件配套了可直接调整复用的全套模板,包括内部 GenAI 治理政策、员工手册示范条款、委托函披露条款、用例评估检查表、供应商尽调检查清单,还收录了多家头部律所与企业法务团队的落地案例。

发布于 江苏