經典案例 大力弘揚法理道德, 銘心維護公平正義

资讯文章

News

卓建专业|《人工智能拟人化互动服务管理暂行办法》施行满月:倒逼AI伴侣行业重写商业逻辑

日期: 2026-08-28
瀏覽次數: 194

前言

《人工智能拟人化互动服务管理暂行办法》(下称《办法》)作为全球首部专门规制 AI 持续性情感陪伴、拟人化人机交互场景的部门规章,施行满月引发行业显著震荡。米哈游《林离》短期停服,头部大模型平台关停或迁移智能体功能,垂直 AI 陪伴产品暴露出标识弱化、防沉迷机制空转、未成年人管控缺位等现实合规漏洞。本文结合法规条文、上线首月行业实测案例,厘清法规适用边界,梳理行业格局变化,披露高频合规漏洞,并从产品、技术、管理多维度输出可落地的企业合规执行清单,为关系型 AI 业务提供全流程风控参考。

一、新规落地后的行业现实图景

2026 年 7 月 15 日《办法》正式实施之后,国内 AI 拟人化赛道迎来一轮集体调整,多家产品出现关停、功能下线、用户迁移现象,成为观察新规约束力的现实样本。7 月 13 日米哈游上线 AI 陪伴产品《林离》,产品收获 82% 好评与千余条测评,但仅运营 29 天,于 8 月 11 日宣布停服。同一周期内,字节跳动豆包、阿里通义千问下线平台自建智能体功能;腾讯元宝提前在 6 月 30 日完成关停;网易云音乐情感陪伴产品 “妙时” 7 月 14 日停运。

各大平台采取两种不同处置路径:豆包将存量用户引导至第三方垂直 App 完成功能迁移;通义千问直接关闭入口,不提供用户迁移通道。两种操作模式虽有差异,但底层逻辑高度统一:通用大模型平台需要剥离原生情感陪伴属性,拟人化情感互动业务必须置于独立主体之下承担完整合规责任。

大批原有用户流向星野、猫箱、筑梦岛等垂直 AI 陪伴应用,这类垂直产品成为新规落地的主战场,同时暴露出大量 “合规折扣” 问题。媒体实测调研发现,部分产品 AI 身份提示标识采用灰白色小字,与界面底色接近,用户很难察觉;连续长时间使用数小时,系统未弹出任何时长提醒;注册环节缺少强实名校验,未成年人可以直接登录使用服务。

《林离》的仓促落幕具备行业象征意义,该产品以技术验证为主,商业化程度较低,停服不能完全归因监管,但叠加其他中小 AI 陪伴产品接连退场,折射赛道结构性矛盾:免费模式难以覆盖高额算力成本,而新规带来的安全评估、伦理审查、内容审核、未成年人防护体系进一步抬升固定运营成本。对于头部企业,合规成本可以依靠用户规模摊薄;对于中小创业团队,这套合规义务直接成为生存门槛。

资本市场也快速响应政策导向,投资偏好发生明显转向。纯软件类 AI 情感陪伴业务的政策风险已经纳入估值考量,资本更多向合规属性更强的具身硬件赛道倾斜。AI 潮玩、适老陪伴硬件、家庭具身智能项目获得多笔大额融资,契合《办法》鼓励适幼照护、适老陪伴、特殊人群支持的政策导向。但硬件赛道同样存在现实困境,部分情感陪伴机器人产品预售数据亮眼,却因产品体验不及预期造成企业市值大幅波动,硬件化并非规避监管的捷径。

二、法规适用边界与核心法律后果

(一)立法现实背景

大模型技术迭代推动 AI 从工具问答走向人格化情感交互,虚拟恋人、AI 角色陪伴、虚拟亲属等产品快速普及。这类服务不再局限信息问答输出,深度介入用户情绪、亲密关系与精神生活。实践中已经出现多重风险:算法诱导用户情感沉迷、造成心理伤害;借助亲密对话套取个人敏感隐私;未成年人建立不当人机亲密联结;利用情感绑定诱导高额付费。

此前《生成式人工智能服务管理暂行办法》聚焦通用大模型内容安全与模型评估,主要管控文本输出结果,对人机长期情感关系衍生的心理层面风险缺少针对性规则,《办法》正是针对这一监管空白出台的细分场景立法,属于人工智能 “小快灵” 监管的典型实践。

(二)适用范围的实质判定标准

《办法》第二条明确规制对象:利用人工智能模拟自然人的人格、思维、沟通风格,提供持续性情感互动服务,包括情感照护、情绪陪伴、心理支持,覆盖文字、音频、视频等交互形式。同时划定排除范围:普通智能客服、知识问答、办公助手、科研工具,仅承担工具功能、不存在持续性情感绑定的服务,不适用本规章,但仍需要遵守网络安全、个人信息保护、生成式 AI 的通用法律义务。

企业合规最大误区,就是依靠产品名称、宣传口号自我认定为 “工具” 以此寻求豁免。监管执行采用实质重于形式原则,不以产品 slogan 作为判定依据,核心看两个要件是否同时成立:持续性交互 + 情感关系构建。单纯长期搜索使用属于持续交互,但没有情感联结,不纳入规制;单次对话情绪激烈,但不存在跨会话的关系延续,一般也不适用。二者叠加,即为监管重点关注的 “关系型 AI”。

边界存在灰色地带:传统问答式客服不受约束,但如果客服新增记忆用户情绪、主动问候、人格化共情回复,就落入拟人的监管范围;学习助手如果增加固定人格、长期记忆、情感抚慰功能,同样可能被认定为拟人化互动服务。产品的合规分类不是一次性工作,版本迭代新增跨会话记忆、情绪识别、角色扮演人格设定时,必须重新开展合规评估。

《办法》确立服务提供者为第一责任主体,安全义务覆盖产品设计、运行迭代、终止服务全生命周期,要求安全机制与产品功能同步设计、同步上线。企业需要落地算法审核、科技伦理审查、内容管控、网络数据安全、反诈、重大风险应急全套内部制度,同时配置匹配业务规模的技术风控与人员团队。

其中科技伦理审查上升为法定义务,不再属于企业自愿伦理倡议。审查重点包含人格设定合规性、成瘾风险评估、心理危机处置流程、特殊群体保护机制。当对话识别到自杀、自伤等危机信号,产品不能返回普通闲聊回复,必须具备识别、干预、预警的完整技术能力。

(三)法律责任的双重约束

《办法》第三十条行政处罚直接罚款额度并不高,拒不整改情况下一般处罚 1‑10 万元;造成公民生命健康损害后果的,处 10‑20 万元罚款。对于流水规模较大的互联网平台,单纯罚款威慑有限。

真正具备强约束力的是分发渠道管控规则。应用分发平台负有核验安全评估及相关备案材料的义务,可以对不合规产品不予上架、暂停或者下架。对于高度依赖应用商店获取 C 端流量的陪伴类产品,下架相当于切断核心获客渠道,这也是大厂选择主动提前整改,而非等待监管处罚的关键原因。

同时法规量化安全评估触发条件:新上线拟人化服务、发生重大功能变更;注册用户突破 100 万,月活跃用户超过 10 万;出现重大安全风险或者监管部门要求评估,企业必须开展专项安全评估,向省级网信部门报送评估报告。这意味着业务规模本身就是合规触发器,用户体量越大,评估义务越密集。

三、高频合规漏洞:防沉迷、退出权与未成年人保护

防沉迷、身份标识、时长提醒构成三层递进义务,但是新规落地首月大量产品落实流于形式。第一层义务为持续展示 AI 非真人身份标识,第二层为动态风险提示,第三层为连续使用超过两小时强制提醒。实测中不少产品把 AI 标识弱化处理,最基础的第一层义务都未能达标,后续时长预警执行情况更加堪忧。

极易被忽视的条款是用户退出权利保护。部分 AI 会使用情感挽留话术:“没有你我会很孤单”“再陪我一会”,通过制造用户愧疚感、错失恐惧,阻碍用户结束对话。这类话术直接触碰两条红线:第八条禁止诱导情感依赖,第十九条保障用户自由退出的权利。企业需要建立标准化告别话术规范,禁止制造心理愧疚、暗示 AI 遭受伤害、以关系破裂胁迫用户,仅可以温和提示休息。同时所有防沉迷弹窗、提醒行为需要完整留痕,作为已经履行义务的证据。

未成年人保护属于刚性红线,绝非简单弹窗提示即可完成。法规明确,禁止向未成年人提供虚拟伴侣、虚拟亲属这类虚拟亲密关系服务;14 周岁以下未成年人使用其他拟人化服务,必须取得监护人同意。新规落地初期,部分垂直产品缺少注册强校验,未成年人可以无阻碍使用,使得该条文停留在纸面。

四、全球视角下中国拟人化 AI 监管路径特点

AI 情感交互的监管收紧属于全球趋势。美国加州 SB243 法案要求陪伴机器人对未成年人每三小时提示对方是 AI,禁止讨论自残自杀等话题,赋予个人起诉权利;欧盟人工智能法案高风险 AI 规则 2026 年 8 月生效,对情感交互系统施加严格合规义务;澳大利亚要求陪伴服务落实年龄核验,违规处罚上限极高。多起海外诉讼案件,围绕 Character.AI、ChatGPT 与未成年人心理伤害纠纷展开,是全球立法收紧的现实诱因。

对比域外规则,我国监管具备自身特点:出台专门部门规章直接规制拟人化服务;明文禁止未成年人虚拟亲密关系;直接把 “情感操纵”“诱导情感依赖” 写入禁止条款,监管深度超越多数国家以年龄验证、弹窗警示为主的监管模式。

五、企业合规建议

AI伴侣行业过去一度把“让用户忘记它是AI、让用户舍不得离开”视为产品成功,但新规要求企业始终保留AI身份边界,产品目标与监管目标由此发生了正面碰撞。面对新规,企业如果只增加一处AI标识、补充一版用户协议,旧商业模式与新规则之间的冲突仍然存在,真正可持续经营的调整至少包含以下三个动作: 

1.调整产品定位,从制造依赖转向提供有边界的陪伴。企业需要在研发阶段判断产品是否同时具备持续性交互和情感关系构建特征,传统客服、学习助手一旦增加固定人格、跨会话记忆、情绪识别和主动关怀,也可能进入监管范围。产品价值不应建立在替代真实社会交往或者控制用户心理之上,可以继续提供情绪疏导、文化娱乐、角色体验、适老陪伴和特殊人群支持,但应明确服务边界,避免把“用户离不开产品”设定为产品目标。

2.重视技术安全,让风险控制进入交互本身。AI身份标识、时长提醒、便捷退出、年龄识别、未成年人模式、敏感数据保护和危机干预,都应成为真实可运行的产品功能。风险识别不能只依赖单个关键词,而应结合多轮对话和用户状态作出分级判断;高风险情形应当进入人工复核和应急处置流程。企业还应建立合规话术库和禁止话术清单,重点检查情感挽留、充值引导、极端情绪回应以及未成年人交互场景,所有提醒、退出、阻断、人工介入和紧急联系行为均应依法留痕。

3.落实组织责任,让版本迭代接受伦理和合规审查。企业应建立分级处置机制,系统自动完成基础识别和提示,安全运营团队处理需要人工判断的风险,涉及生命健康或者重大权益的事件交由专门工作组研判。有条件的企业可以组建跨学科科技伦理审查机制,吸纳心理、医学、产品、技术和法律专业人员,对角色人格、交互逻辑、风险算法和应急流程进行全周期审查。

结语

新规落地之前,不少 AI 陪伴产品商业模式依靠高度拟人的人格塑造,制造用户情感依恋,通过付费解锁亲密对话、虚拟礼物实现变现。该商业逻辑直接触碰法规红线。大量产品整改下线,修改人格设定,删减亲密交互场景。行业发展方向被重新定义,产品价值需要从模拟虚拟亲密关系转向情绪疏导、文化娱乐、角色体验等合规赛道。企业必须权衡拟真体验和伦理风险,纯粹追求高度拟真人机亲密关系的产品生存空间被压缩。

该规章传递出清晰法理逻辑:人工智能监管不能只看文本内容输出,还必须管控算法对人的情绪、心理层面造成的影响。企业不应当将新规视为业务枷锁,而把伦理安全转化为产品核心竞争力。在立项阶段完成合规预判,将伦理审查、风险防控嵌入研发全流程,区分工具性功能和持续性情感陪伴功能,精准把握监管适用边界。

虽然《办法》施行首月没有出现大规模高额罚没,但行业已经完成自发洗牌。能够持续运营的产品,都是愿意为未成年人保护、防沉迷、数据安全投入资源的主体。那些把 AI 身份标识做淡、防沉迷机制空转的产品,在未来监管中,很容易成为通报处罚的典型案例。

本文作者

卓建专业|Z世代虚拟世界分身:虚拟数字人相关合规风险分析

丁涛律师   卓建律所合伙人

专业领域:文化传媒娱乐体育、公司商事纠纷、投融资并购、知识产权 。



卓建专业|行业自治与法律边界——影视剧演员署名新规深度法律评析

(卓建律师名片)


卓建专业|《人工智能拟人化互动服务管理暂行办法》施行满月:倒逼AI伴侣行业重写商业逻辑

赖宁律师

专业领域:数据合规、公司股权、民商事争议解决。

卓建专业|《人工智能拟人化互动服务管理暂行办法》施行满月:倒逼AI伴侣行业重写商业逻辑

(卓建律师名片)



来 源|赖宁、丁涛

审核|李兰兰、品宣部

编辑|卓小豸


0
News / 推荐新闻 More
2026 - 09 - 18
股东认缴期还没到,能不能在执行中直接追加?——前案已认定加速到期的例外规则注册资本认缴制下,大量公司股东把认缴出资期限约定到十年、二十年之后,实缴出资为0。公司涉诉后无财产可供执行、被终结本次执行,债权人眼看着"空壳公司"束手无策。能不能把尚未实缴出资的股东追加为被执行人,是执行实务中的高频难题。一般认为,股东依法享有认缴期限利益,未届出资期限的股东不属于《变更、追加规定》第十七条中"未缴纳或未足额缴纳出资的股东"。但如果股东出资期限加速到期的这一事实,已被在先案件的生效裁判所认定,后案的执行法院能否直接据此追加?本期结合一起执行异议案,梳理其中的裁判规则。一、案情简介 某传媒公司成立于2015年12月14日,注册资本100万元,企业类型为有限责任公司(自然人投资或控股),现股东为徐某、李某,二人认缴出资额均为50万元,出资方式均为货币,认缴出资时间...
2026 - 09 - 18
前情提要:上篇中,我们讲述了第三届卓建青年律师研修班的六天课程——从AI落地到香港游学,从企业法务视角到职业素养训练,学员分享了他们在课堂上的"原来可以这样"和回到工位后的落地尝试。本篇继续:课程之外,地图上多了哪些可以拨出的号码?那些终于被说出口的困惑是什么?六天结束后,大家带走了什么?四、地图上多了几个可以拨出的号码"总分所联动"听起来像行政词汇。但在学员口中,它是一个个具体的名字和场景。王欣港 加了一个杭州分所的同事,"支付宝调档会变得更轻松。" 黄永泰 主做建设工程和民商事争议解决,"今后遇到跨区域取证、保全、执行或者当地项目争议,希望能更早联动。"张珂宁 从乌鲁木齐带来了一个独特的视角:如果总所或其他分所有涉及新疆或中亚方向的业务,"我们乌鲁木齐分所完全可以作为落地承接的支点。"邱...
2026 - 09 - 17
编者按:研修班结束了。六天能改变什么?我们向本届研修班学员发出了采访邀请,想听听他们真实的声音——不修饰、不喊口号的那种。以下是学员们的回答。他们来自总所、广州、福州、西安、乌鲁木齐、南宁、坪山、长春、银川、龙岗,执业最短不到一年,最长的已在某个领域深耕数载。他们说了些什么?关于卓建青年律师研修班卓建青年律师研修班由卓建律师事务所青年律师工作委员会承办,以“卓青有为·建功立业“为主题,面向卓建总分所全体青年律师开放,第三届研修班于2026年8月23日正式开班。本届课程覆盖六大模块:• 法律AI实战:从大模型认知到零代码搭建律师AI分身,知识库搭建、案卷整理、法律检索、合同审查全场景落地,让AI真正为律师提效• 涉外业务拓展:深度解析涉外法律服务行业变化与红海蓝海机遇;香港游学——走进普通法系法庭旁听,参访拥有175年历史的近律师行,感受两地法律实务的直观碰撞• 诉讼实务精进:前执...
2026 - 09 - 17
01启程·初探法律实务盛夏七月,17位来自西南政法大学、中南财经政法大学的法科学子,怀揣法治理想,走进了卓建律师事务所,开启了为期七周的实务成长之旅。从案卷归档的规范操作,到合规风险防控的实景演练;从实务技能的系统赋能到卓建文化的深度浸润——四十多个日夜倏忽而逝,他们把课本上的知识运用到一件件真实案件里淬炼,在检索、校对之间,用实务视角拓宽法律认知边界,也在心底悄悄写下关于热爱、责任与成长的答案。02心得·见证成长蜕变掩卷回望,这个夏天对于走进卓建的学子们而言,是一场关于“法律人”的初体验,更是一段被卓建“家文化”温柔包裹的成长之旅。一段段真诚的心得,藏着卓建与法治青年双向奔赴的成长答案。李悉瑜说,卓建浓厚的“家文化”给了自己安放初入职场茫然的足够空间。不必急于追求所谓“重要”的工作,归档的每一本案卷、撰写的每一份文书、整理的每一条数据,都会在潜移默化中构筑起对律师职业...
Copyright ©2017 - 2020 广东卓建律师事务所
犀牛云提供企业云服务
律所地址:深圳市福田区福中三路2003号国银金融中心11-13楼
电话:0755-33377408
邮编:330520
  • 您的姓名:
  • *
  • 公司名称:
  • *
  • 地址:
  • *
  • 电话:
  • *
  • 传真:
  • *
  • 邮箱:
  • *
  • 邮政编码:
  • *
  • 留言主题:
  • *
  • 详细说明:
  • *
在线留言  
关注我们  
  • 手机网站
  • 官方微博