作者：许怿滨

导读：当人工智能从实验室走进办公、医疗、金融、传媒和日常生活，“AI 是否安全、是否合规”就不再是技术问题，而是一个法律问题。很多人以为管人工智能只有一部《生成式人工智能服务管理暂行办法》，这是误解。截至目前，我国并没有一部统一的“人工智能法”，规范人工智能安全的，是一张由法律、行政法规、部门规章、规范性文件、政策伦理文件和技术标准共同织成的“规范网络”。本文以律师视角，按效力层级把这张网络拆解清楚，并对其中与“AI 安全”关系最紧密的条文作通俗讲解，帮助企业、从业者和法律同行快速建立一张“合规地图”。

一、先看全局：一张“金字塔”式的规范网络

我国规范人工智能安全的法律文件，可以按照法律效力从高到低排成一座金字塔：

法律（全国人大常委会制定）——效力最高，是整个体系的“地基”；

行政法规（国务院制定）——如《网络数据安全管理条例》；

部门规章（网信办、工信部、公安部、市场监管总局等制定）——是目前 AI 专门监管最密集、最“解渴”的一层；

规范性文件、政策与伦理文件——如各类“办法”“指南”“治理框架”“伦理规范”，属于“软法”，但常常通过备案、评估等机制被“硬化”为实际约束；

国家标准——技术标准本身不属于法律，但其中的强制性国家标准（GB）具有强制约束力，推荐性标准（GB/T）则常被监管和司法援引作为“合规标尺”。

把握这张网络，要抓住两条主线。第一条主线是“三部基础法律”：《网络安全法》《数据安全法》《个人信息保护法》。它们并非专门为 AI 而立，却构成了 AI 安全监管的法律底座——因为任何一个人工智能系统，本质上都离不开网络、数据和个人信息。第二条主线是“AI 专门规范”：从算法推荐、深度合成，到生成式人工智能、内容标识、人脸识别，再到最新的拟人化互动服务，监管沿着技术演进逐层加码。

同时要理解，法律语境下的“AI 安全”是一个复合概念，至少包含六个维度：内容安全（不生成违法有害信息）、数据安全（训练与运行数据不失控）、个人信息安全（不侵犯个人信息权益）、算法安全（算法透明、可控、无歧视）、伦理安全（符合科技伦理与公序良俗）、以及技术标准安全（满足安全基本要求与测评）。下文正是围绕这六个维度展开。

二、地基层：三部基础法律与关联法律

（一）《网络安全法》（2025 年修正）：新增“人工智能”专门条款

《网络安全法》是网络空间的“基本法”。值得特别关注的是，2025 年 10 月 28 日的修正首次在法律层面写入了人工智能条款。

第二十条（新增）明确：

国家支持人工智能基础理论研究和算法等关键技术研发，推进训练数据资源、算力等基础设施建设，完善人工智能伦理规范，加强风险监测评估和安全监管，促进人工智能应用和健康发展。

这一条把“发展”与“安全”并列写入国家基本法律，确立了“促进发展”与“伦理规范、风险监测、安全监管”并重的基调，是我国人工智能法治的一个标志性条款。它意味着，AI 安全不再只是部门规章的事，而已上升到法律层面的国家意志。

此外，两条经典条款经修正后调整了条序，仍是 AI 系统必须遵守的底线：

第二十三条（原第二十一条）确立网络安全等级保护制度，要求网络运营者制定内部安全管理制度、采取防病毒和防攻击措施、留存网络日志不少于六个月、对数据分类和加密备份。AI 平台作为网络运营者，同样受其约束。

第四十三条（原第四十一条）要求收集、使用个人信息遵循“合法、正当、必要”原则并公开规则、明示目的经用户同意——这正是 AI 训练与服务处理用户数据的第一道红线。

（二）《数据安全法》：管住 AI 的“燃料”

人工智能以数据为“燃料”，训练语料、用户输入、模型输出都是数据。《数据安全法》为此设定了框架性义务。其第二十一条确立了国家数据分类分级保护制度：

根据数据在经济社会发展中的重要程度，以及一旦遭到篡改、破坏、泄露或者非法获取、非法利用……对国家安全、公共利益或者个人、组织合法权益造成的危害程度，对数据实行分类分级保护……关系国家安全、国民经济命脉、重要民生、重大公共利益等数据属于国家核心数据，实行更加严格的管理制度。

对 AI 企业而言，这意味着训练和运营中要识别数据属于“一般数据、重要数据还是核心数据”，重要数据和核心数据的处理、出境将受到更严格监管。该法还要求建立全流程数据安全管理制度、开展风险监测、合法正当收集数据，这些都是 AI 语料库建设绕不开的义务。

（三）《个人信息保护法》：直击“算法”与“自动化决策”

在三部基础法律中，《个人信息保护法》（个保法）与 AI 的关系最为直接，因为它专门规制了“自动化决策”——而这正是算法和 AI 的核心机制。

第二十四条是“算法治理”的核心条款：

个人信息处理者利用个人信息进行自动化决策，应当保证决策的透明度和结果公平、公正，不得对个人在交易价格等交易条件上实行不合理的差别待遇。通过自动化决策方式向个人进行信息推送、商业营销，应当同时提供不针对其个人特征的选项，或者向个人提供便捷的拒绝方式。通过自动化决策方式作出对个人权益有重大影响的决定，个人有权要求个人信息处理者予以说明，并有权拒绝个人信息处理者仅通过自动化决策的方式作出决定。

这一条至少回应了三类现实问题：一是“大数据杀熟”（不得在交易价格上不合理差别待遇）；二是“算法推送”（须提供不针对个人特征的选项或便捷拒绝方式）；三是“算法说了算”（对个人有重大影响的决定，个人有权要求说明、有权拒绝完全由机器决定）。它是评价一切 AI 推荐、画像、风控、招聘筛选等应用是否合规的基准。

与之配套，第五十五条要求：处理敏感个人信息、利用个人信息进行自动化决策、向境外提供个人信息等情形，个人信息处理者应当事前进行“个人信息保护影响评估”（PIA）并留存记录。换言之，上线一个涉及自动化决策的 AI 功能之前，做一份合规影响评估，不是“可选项”，而是法定动作。

（四）关联法律：科技伦理与反诈

《科学技术进步法》（2021 修订）确立了科技伦理原则，要求科技活动遵守伦理规范、开展伦理审查——这是 AI 伦理治理的上位法依据。

《反电信网络诈骗法》针对“AI 换脸”“合成声音”等新型诈骗提供了治理抓手，与深度合成、内容标识制度相互呼应。

三、AI 专门监管层：从“算法”到“生成式”的规章体系

如果说基础法律是“地基”，那么真正针对人工智能量身定制、最具操作性的，是网信办牵头制定的一系列部门规章。它们沿着技术发展脉络，形成了环环相扣的“三部曲”及其延伸。

（一）《互联网信息服务算法推荐管理规定》（2022 年 3 月 1 日施行）

这是我国算法治理的开山之作，直接管“算法”。两条最实用的规定是：

第十七条——赋予用户“算法关闭权”：服务提供者应当向用户提供不针对其个人特征的选项，或提供便捷关闭算法推荐的选项；用户选择关闭的，应立即停止；还应提供选择或删除用户标签的功能。

第二十四条——确立“算法备案”制度：具有舆论属性或社会动员能力的算法推荐服务提供者，应当在提供服务之日起十个工作日内通过算法备案系统完成备案。这一制度后来被生成式 AI 监管直接沿用。

（二）《互联网信息服务深度合成管理规定》（2023 年 1 月 10 日施行）

针对“深度合成”（俗称“深度伪造/Deepfake”），确立了 AI 内容标识的雏形，是理解今天“AI 内容标识”制度的钥匙。

第十六条——要求深度合成服务提供者对生成或编辑的内容采取技术措施添加“不影响用户使用的标识”，并保存日志信息。这就是所谓的“隐式标识”。

第十七条——对可能导致公众混淆或误认的深度合成服务（如智能对话、智能写作、合成人声、人脸生成与替换、沉浸式拟真场景等），要求在合理位置进行“显著标识”，向公众提示。这就是所谓的“显式标识”。

（三）《生成式人工智能服务管理暂行办法》（2023 年 8 月 15 日施行）

这是全球范围内较早针对生成式 AI（如大模型、聊天机器人）的专门立法，也是 AI 从业者最需要熟读的一部规章，共 24 条。它把散落在各处的义务系统整合，核心条款包括：

1. 内容红线与基本要求（第四条）。提供和使用生成式 AI 服务，应坚持社会主义核心价值观，不得生成危害国家安全、煽动分裂、宣扬恐怖极端、暴力淫秽及虚假有害等违法内容；在算法设计、训练数据选择、模型生成等环节采取措施防止民族、信仰、性别、年龄、职业、健康等歧视；尊重知识产权和商业道德；尊重他人肖像权、名誉权、隐私权和个人信息权益；并提升服务透明度、提高生成内容的准确性和可靠性。

2. 训练数据合法来源（第七条）。提供者开展预训练、优化训练，必须使用具有合法来源的数据和基础模型，不得侵害他人知识产权，涉及个人信息的应取得个人同意或符合其他法定情形，并采取措施提高训练数据的真实性、准确性、客观性、多样性。这是回应“AI 训练数据版权与个人信息争议”的关键条款。

3. 双重主体责任（第九条）。提供者应依法承担“网络信息内容生产者责任”，涉及个人信息的还要承担“个人信息处理者责任”，并与用户签订服务协议明确权利义务。一句话——大模型平台既要对“内容”负责，也要对“数据”负责。

4. 保护用户输入信息（第十一条）。提供者对用户的输入信息和使用记录负有保护义务，不得收集非必要个人信息，不得非法留存可识别用户身份的输入信息和使用记录，不得非法向他人提供，并应及时处理用户查阅、复制、更正、删除等请求。这直接关系到用户与大模型对话内容的隐私安全。

5. 内容标识（第十二条）。提供者应当按照《深度合成管理规定》对图片、视频等生成内容进行标识——从而与标识制度衔接。

6. 安全评估与算法备案（第十七条）。提供具有舆论属性或社会动员能力的生成式 AI 服务的，应当按国家有关规定开展安全评估，并按《算法推荐管理规定》履行算法备案手续。这是大模型上线前的两道“法定关卡”。

（四）《人工智能生成合成内容标识办法》（2025 年 9 月 1 日施行）

如果说前述规章零散地要求“标识”，这部办法则把 AI 生成内容标识制度做成了统一规则，并与强制性国家标准 GB 45438-2025《网络安全技术 人工智能生成合成内容标识方法》同步实施，形成“办法 + 强制标准”的双重约束。它确立了两类标识：

显式标识（第四条）——面向公众可感知：在文本、音频、图片、视频、虚拟场景的适当位置添加文字、语音、符号等提示标识；提供下载、复制、导出功能时，须确保文件中含有显式标识。

隐式标识（第五条）——嵌入文件“内部”：在文件元数据中添加生成合成属性信息、服务提供者名称或编码、内容编号等；并鼓励添加数字水印。

这套“显式 + 隐式”双标识制度，目的是让 AI 生成内容“看得见、可溯源”，是治理 AI 造假、AI 谣言的关键技术—法律结合点。对内容平台和 AI 服务商而言，“不标识”本身即构成违规。

（五）《人脸识别技术应用安全管理办法》（2025 年 6 月 1 日施行）

人脸信息属于敏感个人信息，人脸识别是 AI 落地最广也最敏感的场景，本办法专门为其立规。

第四条——应用人脸识别处理人脸信息，应当具有特定目的和充分必要性，采取对个人权益影响最小的方式，并实施严格保护措施。实践中“能不用就不用、能少用就少用”是基本尺度。

第十五条——存储人脸信息数量达到 10 万人的，应当自达到之日起 30 个工作日内向省级以上网信部门备案，并提交个人信息保护影响评估报告等材料。

（六）持续扩容的专门规章

AI 监管仍在快速“打补丁”。近期新增或即将落地的还包括：《人工智能拟人化互动服务管理暂行办法》（规范“AI 陪伴”“AI 拟人”等新业态）、《人工智能气象应用服务办法》、《个人信息保护合规审计管理办法》《国家网络身份认证公共服务管理办法》等。它们共同说明：AI 监管正在从“通用规则”走向“分场景、分领域”的精细化治理。

四、别忽略“数据出境”：AI 全球化的合规关口

大模型训练常涉及跨境数据，AI 服务也可能面向境外。数据一旦“走出国门”，就触发我国的数据出境合规制度。目前形成了三条并行路径：

安全评估路径——《数据出境安全评估办法》：达到一定规模或涉及重要数据、关键信息基础设施的，须申报网信部门安全评估；

标准合同路径——《个人信息出境标准合同办法》：一般规模个人信息出境，可签订标准合同并备案；

认证路径——《个人信息出境认证办法》：通过专业机构认证实现合规出境。

2024 年《促进和规范数据跨境流动规定》还对上述制度作了“松绑”与豁免安排。AI 企业在选择训练数据来源、部署海外算力、提供跨境 AI 服务时，务必先厘清数据出境走哪条路径。

五、“软法”与标准层：治理框架、伦理与国家标准

除了具有强制力的法律法规，还有一层“软法”——它们不直接设定罚则，却是监管执法、行业自律和司法裁判的重要参照，务必纳入合规视野。

（一）治理框架与伦理规范

《人工智能安全治理框架》1.0（2024 年 9 月）、2.0（2025 年 9 月）——由全国网络安全标准化技术委员会（TC260）发布，系统梳理 AI 安全风险与应对措施，是理解监管思路的“总纲”。

《新一代人工智能伦理规范》《关于加强科技伦理治理的意见》《人工智能应用伦理安全指引》——确立“以人为本、可控可信、公平公正”等伦理底线。

《全球人工智能治理倡议》——代表我国参与全球 AI 治理的立场，属国际倡议层面。

（二）国家标准：区分强制性与推荐性

国家标准是把法律义务“技术化、可执行化”的关键一环，但效力不同，必须区分：

GB 45438-2025《人工智能生成合成内容标识方法》——强制性国家标准（GB），必须执行，与前述标识办法配套；

GB/T 45654-2025《生成式人工智能服务安全基本要求》——推荐性国家标准（GB/T），虽名为“推荐”，但常被安全评估、算法备案直接援引，实务中近乎“必答”；

TC260 系列实践指南——如《生成式人工智能服务安全基本要求》《安全应急响应指南》《服务提供者编码规则》等，是落地操作的“作业手册”。

一批“在编”国家标准——覆盖 AI 应用安全分类分级、安全能力成熟度评估、语料库安全、大模型稳健性测评，以及金融、教育、医疗健康、广电、应急等分行业安全要求。这些标准虽尚未正式发布，却预示着监管精细化的方向，值得提前布局。

一句话点破“软法不软”：很多“办法”“指南”“标准”表面上没有直接罚则，但它们通过“安全评估”“算法备案”“合规审计”等前置程序被“硬化”——过不了评估、备不了案，服务就无法合法上线。软法由此转化为实实在在的市场准入约束。

六、落地实务：一份 AI 安全合规“自查清单”

把上述规范体系转化为可操作的动作，AI 企业和从业者可对照以下清单自查：

训练数据是否合法？数据来源合法、不侵犯知识产权、涉个人信息已获授权（生成式 AI 办法第七条、数据安全法、个保法）。

是否做了算法备案？具舆论属性或社会动员能力的算法/生成式服务，须完成算法备案（算法推荐规定第二十四条、生成式 AI 办法第十七条）。

是否通过安全评估？上线前开展安全评估，对照 GB/T 45654-2025 基本要求（生成式 AI 办法第十七条）。

内容标识是否到位？显式标识 + 隐式标识“双到位”，下载导出文件同样含标识（标识办法第四、五条，GB 45438-2025）。

个人信息合规是否落实？告知—同意、最小必要、用户输入信息保护、自动化决策的说明与拒绝权、事前影响评估（个保法第二十四、五十五条，生成式 AI 办法第十一条）。

内容审核与应急机制是否建立？内容红线过滤、违法内容处置、投诉举报、安全应急响应（生成式 AI 办法第四条及配套实践指南）。

人脸等敏感信息是否单独合规？特定目的、充分必要、最小影响、达标备案（人脸识别办法第四、十五条）。

数据出境是否走了合规路径？评估、标准合同或认证三选一（数据出境系列办法）。

需要提醒的是，上述义务并非“各管一段”，而是相互交织、可能竞合。一次违规行为，往往同时触犯多部规范，并面临网信、公安、市场监管等多部门执法。企业合规不能“只盯一部法”，而要以体系化思维统筹应对。

结语

我国人工智能安全的法律规范，正处在“高速成型”阶段：以《网络安全法》《数据安全法》《个人信息保护法》为地基，以生成式 AI、算法推荐、深度合成、内容标识、人脸识别等专门规章为主干，以治理框架、伦理规范和国家标准为枝叶，一张覆盖内容、数据、个人信息、算法、伦理、技术标准六大维度的规范网络已经清晰可见。对企业而言，理解这张网络不是负担，而是把不确定的合规风险转化为确定的行动指引；对法律人而言，读懂它，正是服务好 AI 时代客户的起点。

【信源与说明】本文所引法律、行政法规、部门规章及国家标准，主要条文经北大法宝（pkulaw.com）数据库核对，均为现行有效版本。其中《网络安全法》以 2025 年修正版为准（原第二十一条等级保护条款现为第二十三条，原第四十一条个人信息条款现为第四十三条，并新增第二十条人工智能条款）。标注“在编”的国家标准系已立项尚未正式发布，仅供参考。本文为普法与合规指引性质，不构成针对具体个案的法律意见；实际适用请以官方发布的最新文本为准，并结合具体情形咨询专业律师。

本文作者

许怿滨律师   卓建律所合伙人

专业领域：物业管理、房地产与公司股权领域的争议解决与合规。

来源|许怿滨

审核|董云健、品宣部

编辑|卓小豸