网上投稿
（本指引于 2025年8月12日上海市律师协会业务研究指导委员会通讯表决通过，试行一年。试行期间如有任何修改建议，请点击此处反馈）
第一章 总则
为推动居（村）法律顾问等公共法律服务均衡性、可及性目标实现，进一步发挥AI智慧助理和随身法学院作用，提升本市律师AI使用水平，防范AI使用重大风险，根据《中华人民共和国律师法》《中华人民共和国个人信息保护法》《律师执业管理办法》《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》以及《上海市公共法律服务办法》等法律法规和规范的规定，制定本指引。
本指引旨在为上海律师运用AI工具提供居（村）法律顾问服务提供借鉴和参考。
本指引适用于上海律师在提供法治宣传、法律咨询、文书起草等居（村）法律顾问服务时各类AI工具的使用。上海律师在公共法律服务的其它场景中使用AI工具可参考本指引的意见。
本指引制定的基准日为2025年6月1日，以该基准日公开市场常见的AI工具的相关特性和表现作为制定背景和依据。鉴于AI高速迭代的特点，本指引的部分观点和意见存在时空局限性，使用者应根据使用AI工具时的实际情况作相应调整。
4.1 公共法律服务
本指引所称公共法律服务，指由司法行政机关统筹提供，旨在保障公民基本权利，维护人民群众合法权益，实现社会公平正义和保障人民安居乐业所必需的法律服务。
4.2 居（村）法律顾问服务
本指引所称居（村）法律顾问服务，指在司法行政部门的统筹组织下，由律师提供的法治宣传、法律咨询、纠纷调解等公益性法律服务。
4.3 当事人
本指引所称当事人，指居（村）法律顾问服务的服务对象，主要包括居（村）基层组织、居（村）民以及法律法规规定的其他组织。
4.4 AI工具
本指引所称AI工具，指基于人工智能技术开发，能够模拟、延伸和扩展人类智能，辅助或替代人类完成特定任务的软件、硬件或系统，其核心功能是通过算法和数据处理，实现自动化决策、问题解决、模式识别、语言理解、图像分析等功能，提升效率、优化流程或提供智能化服务。
4.5 AI幻觉
本指引所称AI幻觉，指AI工具在缺乏充分事实依据或验证机制的情况下，生成表面合理、可信但实际错误、虚构或矛盾的信息。在公共法律服务领域，AI幻觉主要表现为AI工具编造虚假不存在的法律条文或案例。
4.6 算法偏见
本指引所称算法偏见，指AI系统因训练数据、设计或其他原因导致的歧视性输出，其在种族、性别、年龄或其他受保护特征上的偏见可能对个人或群体造成不公平影响。
4.7本地化部署
本指引所称本地化部署，指将AI系统、数据及相关应用程序部署在用户自有或控制支配的物理服务器上，系统运行、数据的存储和处理完全在本地环境内完成。此模式适用于对数据安全性、延迟率、合规性或定制化有严格要求的场景。
4.8脱敏
本指引所称脱敏，指对可以定位或识别出具体当事人的信息进行删除、遮蔽或替代等保护性处理，使其无法精确关联到特定当事人。
AI工具普遍采用云端部署模式，当事人的信息数据经由输入接口即被AI服务商采集存储，存在因系统设计缺陷、存储介质管理不善、管理疏漏、黑客攻击等原因造成的信息数据安全风险。部分AI服务商制定的用户协议中约定其对用户数据享有使用权、第三方共享权及内容审查权，存在当事人隐私、信息数据泄露和不当使用的风险。
律师提供居（村）法律顾问服务过程中，未经当事人同意，擅自将包含当事人隐私或信息数据的文件资料上传至云端的，可能导致权利人隐私、信息数据的泄露和不当使用。
AI工具可能存在数据滞后和数据源不可靠等问题，导致其错误地引用已废止、已修订甚至错误的法律法规，进而导致输出结果不准确。目前AI工具尚难以及时、全面、准确地反映司法实践的变化，可能造成其输出结果与当前主流裁判结论相背离。AI工具可能存在虚构法律法规或案例等AI幻觉问题，导致其输出结果错误或失准。
律师作为专业服务人员，不应轻信和过分依赖AI工具。律师在提供居（村）法律顾问服务过程中未尽合理审核义务的，可能需承担相应的法律责任。
AI工具训练数据偏差、算法设计缺陷、代理数据偏见、评估偏差以及AI讨好迎合使用者的设计逻辑均可能导致算法偏见。AI算法的复杂性与不透明性可能造成算法偏见无法被有效识别和及时纠正，可能影响相关人员对公共法律服务公平性、正当性的信赖。
律师在提供居（村）法律顾问服务过程中应公正、公平地对待他人，尊重当事人、司法程序和司法人员，律师不加审核地直接使用包含算法偏见的AI输出结论，存在执业风险。
AI工具的输出成果若未能体现律师的独创性智力投入，则该输出成果可能因缺乏独创性而难以获得著作权保护。部分AI服务商的用户协议对输出成果的知识产权归属可能另有约定。
AI训练数据中若涉及未经授权的内容，律师使用此类工具生成输出成果，存在侵犯他人合法权利的风险。
第九条 【技术依赖与专业能力退化】
长期过度依赖AI工具，可能导致律师忽视自身专业知识积累和技能提升，削弱律师法律分析、逻辑推理和沟通协调等核心专业能力，降低律师专业服务水平，导致律师沦为AI工具的“发声器”和“传声筒”。
第十条 【合法合规原则】
律师在居（村）法律顾问服务过程中使用 AI 工具，应遵守法律、行政法规，尊重社会公德和伦理道德，并遵循以下原则：
（一） 律师应坚持社会主义核心价值观，不得利用、引导AI工具检索、生成煽动颠覆国家政权、推翻社会主义制度，危害国家安全和利益、损害国家形象，煽动分裂国家、破坏国家统一和社会稳定，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情，以及虚假有害信息等法律、行政法规禁止的内容；
（二） 在训练数据选择、模型生成和服务提供过程中，律师应采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视或偏见；
（三） 律师应尊重他人合法权益，不得利用AI工具实施侵权行为或不正当竞争行为。
律师使用AI工具，应遵守职业道德，在法律法规允许的范围内最大限度维护当事人的合法权益。律师应对AI工具输出结果的使用效果进行分析评估，发现输出结果对当事人不利的，应如实告知当事人。未经当事人同意，不得将可能对当事人产生不利后果的AI工具输出结果直接用于法律服务。
律师使用AI工具，应采取合理必要措施防止个人隐私、商业秘密、国家秘密的泄露。鼓励有条件的律师事务所、律师通过AI工具的本地化部署等方式加强对当事人隐私、个人信息、商业秘密等信息数据的保护。
第十三条 【专业负责原则】
律师应坚持AI工具仅作为法律服务辅助工具的定位，应对AI工具生成的输出结果进行专业审核，应采取必要措施防范AI幻觉和算法偏见，律师应对其向当事人交付的服务成果负责。
律师应使用已按《互联网信息服务算法推荐管理规定》等法律法规规定履行备案手续的AI工具。
律师使用AI工具前，应核对AI工具服务商提供的用户协议，确认AI工具使用过程中所获取的相关信息的权利归属和披露规则，不轻信AI工具在人机对话过程中给予的承诺。
律师应审慎地处理当事人提供的各类信息，并遵守以下规范：
(一) 向部署在云端的AI工具提供当事人信息的，应事先征得当事人的同意，已在合理的范围内由当事人自行公开或者经其他合法途径公开的除外；
(二) 向部署在云端的AI工具上传相关案件信息和资料的，应事先对标识信息作脱敏处理；
(三) 生物识别、宗教信仰、特定身份、医疗健康、金融账户、行踪轨迹等信息以及不满十四周岁未成年人的个人信息属于敏感个人信息，即便有当事人的同意，律师也不宜向部署在云端的AI工具提供。
鼓励律师使用本地化的脱敏工具。非本地化部署的脱敏工具仍然存在信息泄露风险，律师应谨慎使用联机模式下的第三方脱敏工具。
AI工具输出结果前，律师可从以下两个方面加强质量控制：
（一） 通过信息源限定、重新生成结果、更换提示词、预设审查清单、多轮指令交互、结合使用多个AI工具等方式提高输出结果的准确性。
（二） 有条件的律师事务所、律师可建立公共法律服务专项知识库，通过限制AI工具仅可引用专项知识库内容等方式来提升AI工具输出结果的准确性，最大程度减少AI幻觉。
AI工具输出结果后，律师可从以下三个方面加强质量控制：
（一） 通过官方数据库或权威法律检索平台交叉验证AI工具引用的法律条文或案例，确保法律条文和案例的真实性、有效性和时效性，防范AI幻觉。
（二） 依据公序良俗和执业经验对AI工具所输出的结果进行分析判断，防范算法偏见和价值观背离。
（三） 对AI工具输出结果的表达方式进行审核，确保用语和格式规范。
第十七条 【记录与存档】
律师应记录AI工具的使用情况，包括但不限于输入信息、生成结果、审查修改过程等信息，妥善保存相关电子数据和文件，以便核查追溯。
律师应不断加强自主学习，避免过度依赖AI工具导致自身专业能力退化。
鼓励律师在法治宣传中充分发挥AI工具制作培训PPT、宣传海报、漫画手册、思维导图、信息图（一图读懂）等宣传教育资料的优势，生成合成符合居（村）法律顾问服务需求特点的可视化内容，提升法治宣传教育效果。
律师使用网络信息内容传播服务或在公开场合发布AI工具生成合成的法治宣传可视化内容的，应按《人工智能生成合成内容标识办法》第十条的规定，主动声明并使用服务提供者提供的标识功能进行标识，避免公众混淆或者误认，不得恶意删除、篡改、伪造、隐匿生成合成内容标识，不得为他人实施上述恶意行为提供工具或者服务，不得通过不正当标识手段损害他人合法权益。
律师应在人机对话指令中明确要求AI工具不得杜撰法律条文和案例。律师可向AI工具提供规范准确的法律条文并要求AI工具严格按照所提供的条文进行可视化内容的生成合成。
律师使用AI工具生成合成可视化内容的，应从以下方面对AI工具的输出成果进行复核：
（一）可视化成果不宜直接展现真实人物的面部信息，避免引发与容貌相似者的混淆，确需展现人物面部信息的，可通过卡通、漫画等虚拟方式实现；
（二）可视化内容应避免产生任何与民族、宗教、地域、性别、职业偏见有关的误解，不得制造和激化矛盾；
（三）应对AI工具自行搜索生成合成的法律法规条文和案例的真实性、准确性、时效性进行复核，防范AI幻觉；
（四）AI工具生成合成的可视化内容易产生乱码和错别字，需加以复核修正。
律师以可视化方式提供法治宣传服务的，应将可视化内容事先提交活动组织方审核备案。
鼓励律师充分发挥AI工具在政策法规沿革梳理、新旧法条对比分析、关联案例检索以及大文件快速处理等方面的优势，提升咨询服务效能和当事人满意度。
律师应结合自身专业和经验为当事人提供咨询服务。律师对当事人所咨询的问题无法当场给予答复的，可与当事人另行约定服务时间。律师可围绕当事人咨询问题的争议焦点和需求目的，合理设定AI工具的问答提示词，在AI工具的帮助下尽快形成答复意见，及时回复当事人，提升当事人满意度。
律师可围绕以下五个方面进行问答提示词的设定，以便AI工具全面、准确理解咨询问题和咨询目的，进而输出高质量的问答结果：
（一）明确提问者的角色定位，便于AI了解其是作为何种身份解答咨询问题，基于特定身份设定的思考逻辑和角度会有所区别；
（二）明确AI使用的地域范围、具体场景、服务对象和服务目的；
（三）明确所涉及的法律专业领域；
（四）律师基于自身经验已形成关于争议焦点问题的初步归纳或怀疑的，可要求AI工具围绕该焦点问题开展对抗性检索和分析；
（五）明确输出结果的体例、字数和形式。
律师可使用AI工具搭建AI提示词智能体，通过提前设置的程序，结合当事人咨询的具体问题，快速输出高质量的问答提示词。
律师可参考本指引第二十五条内容，按角色、任务、目标、背景、困境、格式、关联条款七个维度设置智能体搭建指标，并对每个维度的输出结果提出具体要求。
鼓励律师充分发挥AI工具在标准化文件阅读、文件模板调用、行业知识检索以及文字处理输出方面的优势，提升文书起草服务的效能和当事人满意度。
律师使用AI工具生成各类文书时，可根据自身专业和经验先行归纳争议焦点或核心观点，再要求AI工具围绕争议焦点或核心观点进行补充完善，以提升文书生成结果的质量。
律师向AI工具提供文书起草所需的文件资料时，应保护当事人的隐私、信息数据和商业秘密。未经当事人同意，律师不得实施以下行为：
（一）将未经脱敏的判决书、裁定书、裁决书等司法文件直接提供给非本地化部署的AI工具，由非本地化部署的AI工具直接生成上诉状、执行申请书、异议申请书等法律文书；
（二）将未经脱敏的身份证、产权证、机动车行驶证等信息资料直接提供给非本地化部署的AI工具，由非本地化部署的AI工具生成相关协议；
（三）将未经脱敏的聊天记录、视频照片直接提供给非本地化部署的AI工具，由非本地化部署的AI工具生成起诉状、证据目录等法律文书；
（四）未经当事人同意，将包含当事人隐私、个人信息、商业秘密的其它资料上传至非本地化部署的AI工具；
（五）其它可能侵害当事人隐私、信息数据和商业秘密的情形。
律师应从以下四个方面对AI工具生成的文书成果进行审核并改进：
（一）AI工具生成的文书内容不利于当事人甚至可能损害当事人合法权益的，律师应及时告知当事人，未经当事人同意，不得擅自使用上述文书成果；
（二）律师可使用AI工具帮助查明当事人诉请的请求权基础，发生请求权竞合的情况时，律师应运用自身专业知识和执业经验，充分告知当事人不同请求权基础的利弊并给予建议，确保当事人的知情权和决定权；
（三）律师应审查当事人的诉讼请求是否超过诉讼时效或者仲裁申请时效，并主动对当事人进行风险提示；
（四）对AI工具生成的各类数字（金额）计算结果，律师需进行复核，防止计算错误。
在满足隐私和信息数据保护的前提下，鼓励律师使用AI工具为当事人的诉讼（仲裁）文书制作提供可视化服务，方便人民法院、仲裁机构查明案件事实。
本指引由上海市律师协会社会公共服务专业委员会起草，并非强制性或规范性规定，仅供本市律师执业参考。
1、 《司法部关于推进公共法律服务体系建设的意见》（2014年1月20日 司发〔2014〕5号），https://www.moj.gov.cn/policyManager/policy_index.html?showMenu=false&showFileType=2&pkid=0d43fc9ce5a54177b6dc0df0995a430a，最后访问于2025年6月19日。
2、 《司法部关于进一步加强和规范村（居）法律顾问工作的意见》（2018年6月15日 司发〔2018〕5号），https://www.moj.gov.cn/policyManager/policy_index.html?showMenu=false&showFileType=2&pkid=2ac14879334e4ac0acbe32a950ac8f39，最后访问于2025年6月19日。
3、 司法部关于印发《公共法律服务事项清单》的通知（2019年9月27日 司发通〔2019〕97号），https://www.moj.gov.cn/policyManager/policy_index.html?showMenu=false&showFileType=2&pkid=90e1c74916724e3f8421337e4f4f166d，最后访问于2025年6月19日。
4、 关于印发《关于推进本市居村（社区）法律顾问工作的意见》的通知 （沪司发〔2017〕93号），https://sfj.sh.gov.cn/2020xxgkml_zdgkml/20201102/17e949ae0cb343858ea890bd7e4ffa43.html，最后访问于2025年6月19日。
5、 《什么是AI幻觉？》，IBM，https://www.ibm.com/cn-zh/think/topics/ai-hallucinations，最后访问于2025年6月19日。
6、 《什么是算法偏见？》，IBM，https://www.ibm.com/cn-zh/think/topics/ai-hallucinations，最后访问于2025年6月19日。
7、 欧盟《人工智能法案》，https://artificialintelligenceact.eu/the-act/，最后访问于2025年6月19日。
8、 国际标准化组织（ISO）与国际电工委员会（IEC）《ISO/IEC 22989:2022 人工智能 概念和术语》，https://www.iso.org/standard/74296.html，最后访问于2025年6月19日。
9、 美国国家标准与技术研究院《人工智能风险管理框架》，https://www.nist.gov/itl/ai-risk-management-framework，最后访问于2025年6月19日。
10、 欧盟《通用数据保护条例》，https://gdpr-info.eu/，最后访问于2025年6月19日。
11、 美国律师协会道德和专业责任常设委员会《关于生成式人工智能使用的正式意见》，https://www.americanbar.org/news/abanews/aba-news-archives/2024/07/aba-issues-first-ethics-guidance-ai-tools/，最后访问于2025年6月19日。
万妍伶 上海市光大律师事务所
于崇洋 北京盈科（上海）律师事务所
马晓伟 上海市联合律师事务所
王秋峰 上海申同律师事务所
毛小刚 上海四维乐马律师事务所
车稳前 北京金诚同达（上海）律师事务所
任 珺 上海星图律师事务所
朱雨辰 北京国枫（上海）律师事务所
吕璇璇 上海大邦律师事务所
孙 静 上海市申航律师事务所
陈 莉 上海吉里律师事务所
陈 怡 上海中岛律师事务所
陈春阳 上海大邦律师事务所
张 磊 北京观韬（上海）律师事务所
邵文利 上海正策律师事务所
金 玮 上海邦信阳律师事务所
庞亦翡 上海市光大律师事务所
胡 燕 上海功承瀛泰律师事务所
凌剑华 北京观韬（上海）律师事务所
夏 冉 北京盈科（上海）律师事务所
袁佳婕 北京观韬（上海）律师事务所
虞 峰 上海市捷华律师事务所
葛泽锋 上海夏鼎律师事务所
项 晨 北京观韬（上海）律师事务所
薛 群 上海市百汇律师事务所
支持指导：
上海市律师协会信息化工作委员会、法律科技委员会
上海功承瀛泰律师事务所
俞艳萍 宝山区律师工作委员会
张书画 武汉秋叶教育科技有限公司
沪公网安备 31010402007129号
