經典案例 大力弘揚法理道德, 銘心維護公平正義

资讯文章

News

卓建专业|人工智能安全与主权AI的法治因应——从上海共识到争议解决实践(下篇)

日期: 2026-10-10
瀏覽次數: 315

内容提要:2026年7月,世界人工智能大会暨人工智能全球治理高级别会议在上海举行,《关于成立世界人工智能合作组织的协定》等成果文件的发布,标志着人工智能安全与主权AI议题正式进入国际法治议程。本文上篇梳理人工智能安全的层次化风险图景及其法律意涵,辨析主权AI的概念内涵与法理基础,比较欧盟、美国与我国三种治理路径,并对我国现行规范体系作全景审视;下篇结合国内外典型案例归纳涉人工智能纠纷的裁判逻辑,探讨责任配置与证明难题,进而立足仲裁视角,讨论仲裁作为涉人工智能纠纷解决机制的制度优势、人工智能进入仲裁程序的边界,以及企业合规与合同条款设计的实务要点。

关键词:人工智能安全 主权AI 人工智能治理 生成式人工智能 仲裁

下篇 案例、责任与仲裁实务

上篇梳理了人工智能安全与主权AI的理念与制度框架。下篇转向实践之维:先以国内外典型案例归纳涉人工智能纠纷的裁判逻辑,继而讨论纠纷类型化与责任配置中的疑难,最后立足仲裁视角,回答争议解决机构在智能时代的角色问题。

六、典型案例的裁判逻辑与规则启示

(一)生成物的可版权性:北京“AI文生图”案

北京互联网法院在国内首例“AI文生图”著作权纠纷中认定,原告利用生成式人工智能生成涉案图片的过程中,通过设计提示词、设置参数、多轮修正等方式进行了智力投入,涉案图片体现出独创性,构成作品,他人未经许可使用构成侵权。该案确立了鲜明的“工具论”取向:人工智能是创作工具,著作权归属于作出独创性智力投入的人。当然,独创性判断高度依赖个案事实,提示词的复杂程度、参数调整与筛选修正的深度,都会影响结论,简单指令一键生成的内容未必都能获得保护——这一裁判进路为后续同类案件保留了充分的个案裁量空间。

(二)人格权益向合成物的延伸:“AI声音”案

在全国首例“AI声音”侵权案中,配音师发现其为有声读物录制的声音被用于训练文本转语音产品并对外出售。北京互联网法院认定,利用人工智能合成的声音,如果一般社会公众或相关领域公众根据音色、语调和发音风格能够关联到该自然人,即具有可识别性,自然人声音权益的保护范围可以及于该合成声音;被告未经许可使用原告声音开发涉案产品构成侵权,判决赔偿25万元。该案于2025年入选最高人民法院典型案例并收录于人民法院案例库。其规则贡献在于把《民法典》第1023条参照肖像权保护声音的原则性规定,具体化为以“可识别性”为中心的裁判标准,并沿授权链条逐环节审查各主体的过错与责任。也应看到,可识别性判断具有很强的事实敏感性,实践中已出现基于不同事实认定合成声音不构成侵权的裁判,保护边界仍在动态形成之中。

(三)平台注意义务的确立:杭州“奥特曼”案

杭州互联网法院审理的“奥特曼”案,是全球首例生成式人工智能服务平台侵犯著作权的生效判决。被告运营的平台应用户指令生成与知名动漫形象高度近似的图片,法院认定其侵犯了权利人的复制权与改编权,并着重指出:作为生成式人工智能服务提供者,被告应当履行与其能力相适应的注意义务,包括建立投诉举报机制、对潜在侵权风险进行关键词过滤、以显著方式提示用户不得侵害他人知识产权等。该案最值得咀嚼之处,在于法院将《生成式人工智能服务管理暂行办法》所设定的监管义务转译为民事注意义务的判断基准——监管规范经由裁判说理进入私法,这正是前文所述软法与监管规则“硬化”机制的鲜活样本。对从业者的启示亦很直接:合规投入不只是应付监管,其在民事诉讼中同样构成抗辩的基础。

(四)训练合法性的域外分野:Anthropic和解案与Getty案

训练数据的版权争议在域外走出了两条不同曲线。美国的Bartz v. Anthropic案中,联邦地区法院2025年6月认定,使用合法购得的图书训练大模型具有高度转换性,构成合理使用;但通过盗版渠道获取并存储图书的行为不在保护之列,须受审判。此后双方达成15亿美元和解,按每部作品约3000美元向近50万部图书的权利人赔付,并销毁盗版来源的副本,和解协议于2026年7月20日获法院最终批准,成为美国历史上金额最大的版权集体诉讼和解。该案传递的信号相当清晰:训练行为本身可能获得合理使用的庇护,但语料获取环节的合法性是不可绕过的前提——“如何拿到数据”比“如何使用数据”更早决定企业的命运。

英国的Getty Images v Stability AI案则展示了另一重困境。英国高等法院2025年11月的判决中,因模型训练发生于英国境外,原告不得不放弃针对训练环节的直接侵权主张,其二次侵权主张亦被驳回,最终仅在极有限范围内认定早期版本模型输出构成商标侵权。训练地的选择使权利人陷入无从下手的属地困境,判决固然是被告的胜利,却把“跨境训练规避”这一结构性漏洞暴露无遗。对照观察,我国《生成式人工智能服务管理暂行办法》第七条虽然明确要求训练数据不得侵害知识产权,但民事层面训练行为是否及如何构成侵权、有无合理使用空间,尚待生效裁判正面回应;《著作权法》第二十四条合理使用条款的解释空间、立法论上是否引入文本与数据挖掘例外,将是我国必须作答的问题。

(五)司法对人工智能辅助的态度:虚假引证的教训

第五组案例关乎法律职业自身。国内某区人民法院在一起股权代持纠纷中发现,原告代理律师提交的“参考案例”系人工智能生成的虚构案例,律师未经核实即作为代理意见提交,法院将该情节写入判决书予以批评;此后湖北、浙江等地法院陆续通报类似情形。域外的前车之鉴更早:纽约南区联邦法院2023年即对引用聊天机器人虚构判例的律师处以罚款。这组案例确立的规则其实是技术中立的:工具可以更新,核实义务不变。人工智能生成的检索结果只是待验证的线索,而非可以直接援引的权威——这一立场对律师、法官同样适用于仲裁员,下文还将回到这一点。

(六)五点归纳

综合上述案例,可以提炼五条趋势性规则:其一,人工智能是工具,权利与责任最终归于人,独创性投入者取得权利,控制风险者承担义务;其二,既有权利的射程正沿“可识别性”“实质性相似”等既有教义自然延伸至人工智能场景,无需等待新法;其三,服务提供者承担与其角色和能力相称的注意义务,监管规范正在成为民事裁判的说理资源;其四,训练环节的合法性在各法域走向分化,跨境套利与属地困境并存,权利人与开发者都面临规则的不确定性;其五,司法系统对人工智能辅助持“工具可用、责任自负”的立场,未经核实的机器输出不能成为免责事由。

七、涉人工智能纠纷的类型化与责任配置

(一)纠纷图谱

从交易结构出发,涉人工智能纠纷大体可归为六类。第一类是算力与基础设施合同纠纷,包括智算中心建设运营、算力租赁与调度中的履约争议,随着前期投资集中落地,此类纠纷已现批量化苗头。第二类是数据类合同纠纷,涵盖数据授权许可、数据标注服务、爬取行为引发的不正当竞争之争。第三类是模型与应用服务合同纠纷,包括接口服务等级、效果承诺与“幻觉”损失的分担、私有化部署交付标准,以及模型蒸馏引发的商业秘密与合同禁止条款争议。第四类是知识产权纠纷,前述训练侵权与生成物权属均属此列。第五类是人格权与内容侵权纠纷,深度合成技术使声音、肖像的擅用变得低成本而高逼真。第六类是投融资与公司治理纠纷,人工智能资产的估值调整、技术出资的权属瑕疵、对赌条款的履行都可能成为争点。此外还有一类跨越上述分类的“合规传导型”纠纷——一方因出口管制、数据出境限制等公法义务变化而履约受阻,合规风险经由合同链条转化为违约责任之争,在跨境交易中尤为常见。

(二)责任主体的链条化配置

责任配置的难点在于产业链的分工细化。开发者训练基础模型,提供者将其包装为服务,部署者将服务嵌入自身业务,使用者最终消费输出——四类角色可能分属四家主体,也可能集于一身。我国现行规章以“服务提供者”为义务锚点,好处是监管接口清晰,但在开源模型被二次开发、接口被层层集成的场景下,终端服务的瑕疵可能源于上游模型,责任如何向上传导,现行规则并未给出答案,实践中只能依赖合同链条的逐环约定与侵权法上的过错判断。域外经验提供了一个基准点:加拿大航空公司聊天机器人案中,裁判机构明确拒绝了“聊天机器人是独立主体”的抗辩,认定经营者应对其网站上一切信息负责,无论其来自静态页面还是智能交互界面。“谁对外提供界面,谁对输出负责”,可以作为责任配置的第一推定,再由该主体依内部合同向上游追偿。

(三)算法黑箱与证明难题

涉人工智能侵权的证明困境集中于过错与因果关系:模型内部机制不透明,受害人往往既无从知晓损害缘于训练缺陷、部署配置还是使用不当,也难以获取证明所需的技术资料。缓解之道有三。其一,用足既有程序工具,包括书证提交命令、专家辅助人与技术调查手段;备案材料、安全评估报告以及法定留存的日志记录,都是潜在的证据富矿——网络安全法律制度要求的网络日志留存义务、专门规章设定的记录义务,客观上为事后归责保存了证据基础。其二,在涉个人信息场景善用《个人信息保护法》第六十九条的过错推定规则,由处理者就其无过错承担证明责任,这是现行法上最直接的举证缓和通道。其三,解释论上可以探讨对高风险自动化决策场景参照适用危险责任的法理,但在立法明确之前,裁判者宜保持克制,避免以责任严格化替代精细的过错认定。

八、人工智能与仲裁:争议解决的双向命题

人工智能与仲裁的相遇是双向的:一方面,涉人工智能纠纷需要与之适配的解纷机制,仲裁具有天然优势;另一方面,人工智能也在进入仲裁程序内部,辅助之利与失范之险并存。仲裁机构恰站在两个命题的交汇处。

(一)仲裁作为涉人工智能纠纷的适配机制

仲裁的适配性体现在五个方面。第一是专业性。涉人工智能案件的争点常横跨技术与法律——模型交付是否符合约定精度、训练语料是否构成商业秘密、蒸馏行为如何认定——当事人可以选定兼具技术背景与法律素养的仲裁员,辅以专家证人机制,其专业匹配度是普通程序难以比拟的。第二是保密性。模型架构、训练数据构成、提示词工程均属核心商业秘密,公开审理的外溢风险足以让企业却步,仲裁不公开审理的默认规则恰好对症。第三是跨境执行力。人工智能产业链天然跨境,《承认及执行外国仲裁裁决公约》覆盖一百七十余个缔约方的执行网络,是涉外争议选择仲裁的决定性理由。第四是程序弹性。当事人可以约定技术争议先行专家评审、文件披露的范围与保密分级、在线审理的具体安排,把程序裁剪到与案件复杂度相称。第五是效率与终局性。技术迭代以月计,商业窗口稍纵即逝,一裁终局的制度设计契合产业对确定性的渴求。

制度环境也在同步就位。新修订的《仲裁法》自2026年3月1日起施行,明确在线仲裁与线下仲裁具有同等法律效力;司法部披露,2024年全国已有93家仲裁机构办理网络在线仲裁案件,标的额约3000亿元。在线程序的法定化,加上涉外仲裁制度的完善,使我国仲裁承接跨境人工智能纠纷的基础设施日趋完备。对企业的建议是:在人工智能相关合同中订入仲裁条款时,注意争议范围的涵盖面(包括与合同相关的侵权争议与合同效力争议)、保密义务的延伸约定,以及对技术背景仲裁员选定机制的预先安排。

(二)人工智能进入仲裁程序:辅助的限度

仲裁程序内部的人工智能使用,宜按风险分层。翻译转写、卷宗整理、格式核对等行政性辅助,风险低,可以放手使用;证据梳理、时间线构建、争点归纳等分析性辅助,有价值但须逐项核查;而事实认定、法律评价与裁决的实质性说理,属于裁判核心,不可让渡于机器。这一分层并非出于技术保守,而是源于仲裁的正当性结构:仲裁权来自当事人合意,当事人选定的是特定仲裁员本人的判断与良知——仲裁员职责具有鲜明的人身信赖属性,将实质裁判职能外包给算法,动摇的是裁决正当性的根基,其危害较之司法场景有过之而无不及。此外还有保密维度:将案卷材料输入不受控的公共模型服务,本身即可能构成对保密义务的违反。

(三)国际规则供给与机构因应

国际仲裁界已先行一步。硅谷仲裁与调解中心2024年发布的《仲裁中人工智能使用指南》与英国特许仲裁员协会2025年发布的同名指南,共同确立了若干底线规则:仲裁参与人对人工智能输出负核实责任;仲裁员不得将裁判职责让渡于人工智能;涉密材料的输入受到严格限制;程序中人工智能的重大使用宜经披露与协商。两份指南均采取“原则加程序令模板”的轻型体例,便于个案引入。

国内仲裁机构可以在四个层面作出因应。规则层面,可在仲裁规则或配套指引中区分机构管理性使用、仲裁员使用、当事人及代理人使用三种场景,分别设定披露、限制与保密要求,条件成熟时纳入示范条款。平台层面,在线仲裁系统引入人工智能功能前应进行安全评估与数据合规审查——仲裁平台沉淀着大量商业秘密与个人信息,其本身就是需要重点保护的数据基础设施。名册层面,应有意识地增补人工智能、数据合规领域的专业仲裁员,并组织既有仲裁员的技术素养培训。个案层面,仲裁员宜在首次程序令中与当事人就人工智能使用达成一致;对当事人提交的证据,则须警惕深度伪造的渗入——语音、影像证据的鉴真在深度合成时代难度陡增,对生成合成内容添加显式与隐式标识已是强制性国家标准的要求,标识的有无与完整性,可以成为仲裁庭审查电子证据真实性的新抓手。

九、企业合规与合同条款的设计要点

(一)治理体系的搭建

企业层面的人工智能治理,可以以《人工智能安全治理框架》与ISO/IEC 42001管理体系标准为骨架,建立覆盖研发、采购、部署、退出全生命周期的风险评估与留痕机制。法律顾问的工作清单也应随之扩容:投融资与并购尽调中,目标公司的训练数据合法性、模型来源与许可链条、备案评估状态、开源许可证的传染风险,都应成为独立的核查科目;常年法律顾问服务中,客户业务流所嵌入的人工智能工具是否安全合规,正在成为常设议题。

(二)合同条款清单

结合前文讨论,人工智能相关合同宜重点关注八组条款。一是数据与知识产权的陈述保证及侵权赔偿安排,锁定上游语料来源合法性风险;二是输出质量条款,审慎界定“幻觉”的性质与人工复核义务,避免效果承诺被解释为担保责任;三是安全事件的通知与协助条款,与法定的网络安全事件报告义务相衔接;四是审计与透明度条款,约定日志、评估报告的查阅路径,为将来举证预留通道;五是模型切换与退出机制,包括迁移协助、数据返还与删除的验证——这正是主权AI关切在微观交易中的落地;六是合规变更条款,为标识、拟人化交互此类快速迭代的新规预设义务调整机制;七是责任限额及其例外,将数据泄露、知识产权侵权、人身损害列为限额例外通常更为公允;八是争议解决条款,综合仲裁机构的专业名册、保密规则、在线程序与执行网络作出选择,并就技术专家参与预作安排。

(三)跨境交易的合规架构

跨境场景的分析始终围绕三个问题展开:产品在哪里提供、用户在哪里、数据流向哪里。架构设计上,宜尽可能实现数据分域存储与处理,减少不必要的数据回流,避免“出境后再入境再出境”的双重合规成本;通道选择上,在安全评估、标准合同、保护认证及豁免情形之间作成本最优的组合;目标法域上,除数据规则外还须核查当地人工智能专门立法的域外效力——欧盟《人工智能法》对输出投放至欧盟市场的域外提供者同样适用,即为适例。

十、结语:在安全与发展之间的持续治理

回到文首的追问。人工智能安全,安全的不是机器本身,而是人在机器扩张时依然保有的知情、选择、控制、纠错与追责的能力;主权AI,主权的也不是某个模型,而是共同体对关键能力、关键资源与规则制定权的自主掌握。安全不是非黑即白的静态判断,而是随技术演进持续校准的治理过程——治理的秩序终将融入芯片的参数、数据的权重、应用的规则与合同的条款之中,而不会停留在倡议文件的纸面上。

在这一进程中,法律共同体的位置并未边缘化,反而更加清晰。机器可以生成分析,但判断与签字属于人;智能体可以执行任务,但最终决策权的保留与责任的归属,恰是法治为智能时代锚定的人的位置。对仲裁机构而言,这既是一份稳健的责任——以专业、保密、高效、可执行的争议解决供给,为疾行的产业提供确定性;也是一次难得的机遇——在涉人工智能纠纷规则尚在形成的当口,高质量的裁决本身就在参与规则的塑造。从上海共识到个案裁断,人工智能治理这张大网的经纬,正需要一针一线地织就。

来源|许怿滨、赖宁、王晓峰

审核|董云健、品宣部

编辑|卓小豸




0
News / 推荐新闻 More
2026 - 11 - 13
11月13日,深圳市律师协会监事会副监事长吴小波一行到访卓建律所,围绕卓建监督机构建设与行业监事工作开展调研交流。参加此次调研的市律协监事会人员有吴小波副监事长,邹俊亮、林志平、杜奕良、杜洪硕、李庆辉、杨智蓉;卓建监事会监事吕红兵、古鉴璇、徐凯、邓剑,执委会委员、一体化运营委员会主任黄力维等参加。座谈伊始,吕红兵监事向调研组反馈了关于《深圳市律师协会律师事务所监督机构工作指引(征求意见稿)》(以下简称“《工作指引》”)的修改建议,内容集中在监督机构成员人数比例、连任届数标准、表决机制、回避规则弹性、监督意见书效力边界及外部反映限制等方面,并就提升规则可操作性提出建议。古鉴璇监事介绍了卓建监事会运营情况,监事会在职责履行、内部监督机制与规范化建设等方面的做法。座谈会上,吴小波副监事长表示,《工作指引》着眼健全律所内部监督机制、提升行业治理水平,监事会希望通过本次调研交流,了解卓建在监督机构设...
2026 - 11 - 13
违章建筑出租后发生的租赁合同纠纷涉及诸多法律问题。本文将对团队负责人审理的一起加建商铺引发的商事仲裁一案进行简要评析。一、案情2024年,出租人甲公司与承租人乙公司签订第一份《租赁合同》,约定乙承租A铺位;2025年,双方签订《合同解除协议》,明确A铺位的租赁合同提前解除,原合同项下的押金将转作新合同押金,就解除租赁关系、确认已发生费用、减免款项、押金抵转及付款安排等事项达成合意,双方就B铺位签订第二份《租赁合同》。2026年,因乙持续欠费,甲通知解除B铺位合同。几日后,甲以欠费为由对B铺位进行锁门,并依合同中的留置条款扣留乙在B铺位内经营所用物品。甲向仲裁院提出仲裁请求,要求解除B铺位合同,乙支付A、B两铺位欠付租金、管理费、滞纳金、电费等,按日租金二倍支付场地占用费,并额外支付提前解约违约金。乙答辩称,案涉铺位属于违章加建,未取得建设工程规划许可证,租赁合同无效,故甲的解除请求无据,滞...
2026 - 11 - 13
在海关法律咨询中,企业最常提出的一句抗辩是:“货是业务员报的,归类、成分这些我们也不懂,出了问题,这也要罚我?”这句话在稽查和处罚案件里经常出现。答案听上去有点冷酷:不知情本身,不能免罚。但话不能说到这儿就停。因为《中华人民共和国行政处罚法》确实留了一道门,只是门上写着两个字——“证据”。下面把这件事讲透。一、先给结论“不知情能不能免罚”,这个问法,法律上并不成立。法律不问你是否知情,问的是你有没有主观过错。《中华人民共和国行政处罚法》第三十三条第二款写得很清楚:当事人有证据足以证明没有主观过错的,不予行政处罚。法律、行政法规另有规定的,从其规定。三个限定,缺一不可:有证据、足以证明、没有主观过错。不是“我不知道”就能免,是“我能证明我没有错”才能免。这是两件完全不同的事。顺便统一一下用语。日常说“免罚”,法律上叫“不予行政处罚”。本文标题用了“免予”,与“不予”是同一个意思,后文一律用法...
2026 - 11 - 13
近日,卓建律师事务所道同律师团队刘文律师、曾免记律师、郭抒韬律师,成功中标新疆前海联合财产保险股份有限公司常年法律顾问服务项目,将为该公司总公司提供全方位、常态化的法律顾问服务。本次中标,是前海财险对卓建律师在保险机构治理、保险产品与理赔合规、金融消费者权益保护以及企业法律风控领域专业能力、行业经验与服务能力的高度认可,也标志着卓建所在金融保险法律服务领域再添重要标杆案例。本次项目聚焦财产保险公司总部层面的常年法律顾问服务,涵盖日常法律咨询与经营合规支持、合同及法律文书审查、重大事项专项法律意见出具、律师函签发、董事会及专业委员会会议列席、现场专项法律服务与专题法律培训等,形成覆盖公司治理、业务经营、监管合规、劳动用工全流程的一站式法律服务方案,精准匹配保险公司在强监管环境下稳健经营的合规需求。未来,刘文律师、曾免记律师、郭抒韬律师将充分发挥专业优势与实践经验,以高标准、高质量、高效率的法...
Copyright ©2017 - 2020 广东卓建律师事务所
犀牛云提供企业云服务
律所地址:深圳市福田区福中三路2003号国银金融中心11-13楼
电话:0755-33377408
邮编:330520
  • 您的姓名:
  • *
  • 公司名称:
  • *
  • 地址:
  • *
  • 电话:
  • *
  • 传真:
  • *
  • 邮箱:
  • *
  • 邮政编码:
  • *
  • 留言主题:
  • *
  • 详细说明:
  • *
在线留言  
关注我们  
  • 手机网站
  • 官方微博