Full text · 原文
6,364 字
近年来，人工智能技术快速演进，带来了前所未有的发展机遇，也带来了前所未遇的风险挑战。习近平总书记指出，“要研究丰富立法形式，可以搞一些‘大块头’，也要搞一些‘小快灵’，增强立法的针对性、适用性、可操作性”。“小快灵”立法在应对人工智能发展治理新形势中发挥着独特作用。2026年4月10日，国家网信办、国家发展改革委、工业和信息化部、公安部、市场监管总局联合公布《人工智能拟人化互动服务管理暂行办法》（以下简称《办法》），将自今年7月15日起施行。这是我国首部人工智能拟人化互动服务（以下简称“拟人化互动服务”）管理专门立法，也是人工智能“小快灵”立法新的实践，旨在通过明确促进制度、划定服务规范、创新监管措施，深化探索人工智能治理规则，更好促进拟人化互动服务向上向善，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。<br>
一、为何以“小快灵”立法规范人工智能拟人化互动服务<br>
“小快灵”，通常指立法切口小而准、立法时效快和制度灵活管用的新型立法形式。当前，拟人化互动服务已成为人工智能重要应用方向，其通过模拟人类情感和沟通方式，提升了人机交互体验，在文化传播、适幼照护、适老陪伴等领域展现出巨大潜力，但也带来了危害未成年人身心健康、影响网络信息安全、威胁公民生命健康等风险。制定《办法》，以“小快灵”立法规范拟人化互动服务，既是促进其健康发展的迫切要求，也是及时防范有关安全风险的现实需要。<br>
学习贯彻习近平总书记重要讲话精神和党中央决策部署的重要举措。党的十八大以来，习近平总书记高度重视人工智能发展和治理，要求“完善人工智能监管体制机制，牢牢掌握人工智能发展和治理主动权”，强调“要把握人工智能发展趋势和规律，加紧制定完善相关法律法规、政策制度、应用规范、伦理准则，构建技术监测、风险预警、应急响应体系，确保人工智能安全、可靠、可控”，提出“坚持以人为本、智能向善，在联合国框架内加强人工智能规则治理”。《中共中央关于进一步全面深化改革、推进中国式现代化的决定》提出，“加强网络安全体制建设，建立人工智能安全监管制度”。“十五五”规划纲要指出，“完善人工智能领域法律法规、政策制度、应用规范、伦理准则，健全算法备案、透明度管理、安全评估等制度”。习近平总书记重要讲话精神和党中央决策部署为适应人工智能发展新形势、推进人工智能立法提供了科学指引。《办法》通过完善人工智能具体应用领域规则，充分发挥专门立法精准高效、务实管用的制度优势，推动制度供给与人工智能发展的良性互动。<br>
促进人工智能拟人化互动服务健康发展的现实需要。随着情感计算、多模态大模型等技术不断取得突破，人工智能能力正经历从“认知智能”向“情感智能”的范式跃迁，拟人化互动服务日新月异。其以“情感联结”为中心，通过模拟人类的情感反应，与用户建立持续性的深度关系，影响用户心理状态、价值判断和真实社会交往模式。在情感依赖与网络信息安全方面，拟人化互动服务通过算法设计的无条件陪伴、迎合式反馈与模拟共情回应，给予用户持续情感认可和支持，构建了稳定持续、无需承担现实责任的虚拟“完美关系”，长期使用可能导致用户产生深度情感依赖，影响其现实生活。尤其是未成年人、老年人等群体受认知与防护水平、情绪调节能力等因素影响，更易受到网络违法和不良信息、危险行为示范、情感操纵策略的伤害。在隐私泄露方面，拟人化互动服务与用户的交互过程通常会涉及用户的私密情感表达与心理诉求，由此产生的交互数据往往具有敏感性、私密性，直接关系用户的人格尊严与个人权益。制定《办法》，是积极回应现实风险挑战的迫切需要，旨在划清人机情感交互的安全底线，促进拟人化互动服务健康发展和规范应用。<br>
完善人工智能法律制度体系的客观要求。近年来，我国不断加强人工智能立法，已经构建涵盖法律、行政法规、部门规章及地方性法规等多层次和数据、算法、应用等多维度的人工智能法律法规制度框架。比如，修改后的《中华人民共和国网络安全法》对人工智能安全与发展作出综合性规定，《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《中华人民共和国电子商务法》等建立健全人工智能有关数据安全、个人信息保护、电子商务基础制度，《未成年人网络保护条例》、《网络数据安全管理条例》对未成年人网络保护、生成式人工智能服务网络数据安全管理等作出规定，网信等部门出台了系列人工智能专门立法，明确重点领域和典型应用场景的发展治理制度。制定《办法》，是立足拟人化互动服务新特点，进一步落实上位法规定，加强与有关专门立法的协同，完善情感互动边界、用户依赖干预、数据安全、未成年人网络保护等关键环节具体规则的重要举措。<br>
构建中国特色人工智能治理模式的有益探索。习近平总书记用“大块头”与“小快灵”形象描述了两种不同的立法形式，为体系化推进人工智能立法提供了根本遵循。在我国人工智能立法中，逐渐探索形成了两者相得益彰的推进路径。这一路径既遵循立法工作一般规律，又适应新兴领域发展规律。当前，人工智能新技术、新应用、新业态层出不穷，技术迭代周期大幅缩短，演进路线不确定性较大，跨界融合加深，安全风险隐蔽性、传导性和放大性特征突出，这些特点决定了要善于运用不同于传统立法的模式。相对于网络领域立法结构完整、调整内容广泛的“大块头”立法，“小快灵”立法则具有切口小、周期短、形式灵活等特点，契合人工智能迭代速度快、应用场景多元、治理需求日趋精细的现实需要。此前，我国相继制定算法推荐、深度合成、生成式人工智能、人脸识别、人工智能生成合成内容标识等有关“小快灵”立法和强制性国家标准，有效解决了人工智能领域新型突出问题，及时为新技术新应用健康发展提供了制度规范。《办法》进一步丰富中国特色人工智能治理模式，注重以“小快灵”立法打通堵点、化解风险、激发动能，切实增强立法的及时性、针对性、可操作性。<br>
二、治理理念与制度设计的创新和亮点<br>
人工智能因创新而生、创新而兴，人工智能立法也要因时而变。《办法》深入总结我国网络领域立法经验，立足我国拟人化互动服务发展实际，把握技术发展规律，精准回应由“拟人化”、“情感互动”等新服务相伴而来的突出风险，在治理理念、内容、制度等方面有诸多创新和亮点。<br>
坚持统筹发展和安全，促进人工智能拟人化互动服务创新发展。拟人化互动服务是人工智能技术应用的新形态，兼具巨大经济社会价值与多维度风险挑战，日益成为提升人机交互质量、推动通用人工智能发展的重要变量。面对这一治理命题，《办法》坚持发展和安全并重，在守住安全底线的前提下积极释放创新空间。一是坚持包容审慎。坚持促进创新和依法治理相结合的原则，实行包容审慎和分类分级监管，鼓励拟人化互动服务创新发展，特别是在文化传播、适幼照护、适老陪伴等领域的应用拓展，支持推进拟人化互动服务技术研发和相关标准建设，完善应用生态体系。二是科学界定范围。注重精准识别风险场景，科学限定适用范围，规定利用人工智能技术向中华人民共和国境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务，适用本办法。同时，明确提供智能客服、知识问答、工作助手、学习教育、科学研究等服务，不涉及持续性的情感互动的，不适用《办法》，避免过宽或模糊的适用范围抑制产业创新的积极性。三是探索监管沙箱。《办法》首次引入监管沙箱机制，提出推动人工智能沙箱安全服务平台建设，鼓励服务提供者接入沙箱平台，在安全测试环境中验证技术方案、开展安全测试。这既为创新预留容错空间，也为监管规则迭代积累实践经验。四是划定安全红线。《办法》明确不得从事生成危害国家安全、荣誉和利益，煽动颠覆国家政权、推翻社会主义制度等内容的活动。<br>
坚持以人为本、智能向善，强化用户权益全方位保障。拟人化互动服务已超越单纯的信息处理范畴，深度触及人类最本质的情感互动需求。这种高度拟人化的交互模式在提供情感慰藉、缓解孤独情绪的同时，潜藏着影响社会现实认知、威胁用户身心健康等风险。《办法》坚持以人为本、智能向善理念，将保障人的主体地位、维护真实人际关系贯穿于制度设计全过程。在认知边界守护上，要求服务提供者显著提示用户正在与人工智能而非自然人进行交互，并在用户初次使用、重新登录以及发现用户存在过度沉迷依赖倾向等关键节点，以弹窗等方式动态强化提醒，这一制度设计不仅是具体的技术操作要求，更是在社会层面明晰“人机边界”的认知基石，旨在防止情感混淆、保护人类在人机互动中的主体地位。在特殊群体保护上，将未成年人权益保护放在突出位置，明确拟人化互动服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务，向不满十四周岁未成年人提供其他拟人化互动服务或者处理其个人信息，应当取得未成年人的父母或者其他监护人的同意，要求建立未成年人模式等。有关儿童保护国际机构表示，《办法》是全球范围内针对陪伴、情感关怀与支持等人工智能情感交互服务实施监管迈出的重要一步。同时，要求加强对老年人健康使用服务的指导，以显著方式提示安全风险，及时采取措施响应老年人使用服务相关咨询和求助，保障老年人依法享有的权益。在极端风险防范上，要求服务提供者建立风险识别机制，及时发现用户过度依赖倾向与极端情绪，若涉及自杀自残等极端情形，需采取提供相应援助等必要措施予以干预，并及时联络用户监护人或者紧急联系人。<br>
坚持全生命周期治理，构建系统性风险治理体系。拟人化互动服务风险不仅限于内容生成环节，还涉及有关服务的各个环节。《办法》将安全责任贯穿于拟人化互动服务部署、运行、升级、终止等环节，要求保证安全措施与服务功能同步部署、同步使用。在事前预防环节，规定促进拟人化互动服务向上向善的导向要求，明确不得将替代社会交往、控制用户心理、诱导沉迷依赖作为产品设计目标，提出预训练、优化训练等数据处理活动规范等。在事中规范环节，明确内容生成的基本要求，提出加强安全监测和风险评估，及时发现并纠正系统偏差、处置安全事件，依法留存网络日志，明确安全评估等制度。在事后监督环节，要求提供便捷的拟人化互动服务退出途径，不得采取持续互动等方式阻碍用户退出；规定拟人化互动服务提供者停止提供服务的提前告知、发布停止服务公告等要求，明确健全用户申诉和公众投诉、举报机制等，规定了监督检查和法律责任制度。这些制度安排旨在形成全生命周期治理闭环，增强拟人化互动服务治理系统性。<br>
坚持多要素综合治理，统筹数据、算法与交互界面的协同规制。拟人化互动服务风险源于数据安全、算法黑箱与诱导性交互设计等共同作用，单一维度治理往往效果有限。对此，《办法》构建训练数据质量与合法性要求、算法机制机理审核、生成合成内容标识等多要素协同治理模式。在数据要素方面，提出增强数据透明度、可靠性、多样性和安全性；要求依法落实数据产权等制度，采取数据加密、访问控制等措施保护用户交互数据安全；明确除法律另有规定或者权利人明确同意外，拟人化互动服务提供者不得向第三方提供用户交互数据。在算法要素方面，提出建立健全算法机制机理审核制度，明确模型训练和关键能力优化相关规定，明确算法备案要求。在交互界面方面，通过身份透明告知、防沉迷提醒等用户界面层面的制度设计，有效防范诱导性交互设计对用户心理和行为的不当影响。这一制度安排旨在贯通数据、算法、交互界面等多要素，推动人工智能治理从单点规范走向系统协同的范式升级。<br>
坚持协同共治，构建政府监管、行业自律、社会参与相结合的多元治理格局。拟人化互动服务的发展与治理是一个复杂的系统工程，涉及的主体多元、法律关系多样、适用场景多变，需要政府、企业、社会、网民等多方参与。在部门协同方面，《办法》明确国家网信部门负责统筹协调全国拟人化互动服务的治理和相关监督管理工作，国家发展改革委、工业和信息化部、公安部、市场监管总局、国家新闻出版署等有关部门依据各自职责负责拟人化互动服务相关监督管理工作，体现了统筹协调与协同治理的制度安排。在行业自律方面，鼓励行业组织发挥桥梁纽带作用，建立健全行业准则和自律管理制度，引导企业主动对标合规要求，推动强化自我约束、完善服务规范，指导其依法提供服务并接受社会监督。在社会参与方面，提出国家加强拟人化互动服务安全知识、法律法规等宣传普及，引导社会公众科学、文明、安全、依法使用，促进提升人工智能素养。《办法》强调协同共治，鼓励行业组织加强自律，深化公众人工智能素养培育，旨在加快形成动态敏捷、多元协同的人工智能治理格局。<br>
三、引领和促进人工智能拟人化互动服务向上向善发展<br>
令在必信，法在必行。推进人工智能依法治理和《办法》落地落实，离不开各方面的共同努力，需要加强制度供给，强化协同联动和制度实施，切实提升治理效能，引领和促进拟人化互动服务向上向善发展，并为全球人工智能治理作出贡献。<br>
持续完善人工智能制度规范。相较于人工智能技术的快速发展，人工智能制度供给还需不断适应新形势新任务。要统筹立改废释，灵活运用多种立法形式，体系化推进人工智能立法。广泛凝聚社会共识，及时建立健全人工智能发展治理基础规则。完善《办法》配套规范，深化以技治技探索，推进拟人化互动服务相关标准建设，发挥技术标准的指引作用。深化运用“小快灵”立法快速响应机制，积极应对拟人化互动服务和其他应用领域的风险挑战，研究制定数字虚拟人、智能体等相关规定，协同完善保障数据、算力、算法、网络安全等人工智能要素及规范重点应用场景方面的立法，努力做到新技术新应用发展到哪里、人工智能立法就覆盖到哪里。<br>
着力加强制度实施。制度的生命力在于实施。要着眼拟人化互动服务的发展治理制度，强化统筹协调，协同实施算法备案、安全评估等制度，完善跨部门信息共享和工作联动机制，提升实施工作合力。推动拟人化互动服务提供者履行安全主体责任，切实建立健全算法机制机理审核、信息内容管理、网络和数据安全等制度，引导行业加强自律。推进拟人化互动服务领域执法，依法查处侵害未成年人权益、非法收集个人信息等违法行为，切实维护用户合法权益。指导推动人工智能沙箱安全服务平台建设，鼓励拟人化互动服务提供者接入沙箱平台进行技术创新、安全测试，促进拟人化互动服务安全有序发展。<br>
积极深化网络普法和理论研究。推动拟人化互动服务在法治轨道上健康运行，离不开网络法治宣传教育走深走实。要持续开展习近平总书记关于人工智能的重要论述的网上宣传，深入阐释人工智能治理的重要意义和主要原则。发挥“E法同行”新品牌示范引领作用，开展《办法》等主要制度宣传普及。推动拟人化互动服务企业开展合规专题宣讲，系统解读拟人化互动服务制度规范和合规要求。用好新技术新手段，提高有关普法产品的实效性、趣味性、互动性，激发网民学法用法热情。加强拟人化互动服务安全知识、法律法规等宣传普及，重点针对未成年人、老年人等群体开展差异化普法，提升其风险识别能力和自我保护意识。深入开展人工智能有关法学理论研究，提炼标识性概念、原创性观点，助力构建具有中国特色、符合技术发展规律的人工智能自主知识体系和法治体系。<br>
不断密切国际交流合作。人工智能治理是世界各国面临的共同课题。要坚持开放合作，深化法规、标准、技术等关键领域国际交流合作，积极推进拟人化互动服务治理规则交流。立足我国人工智能治理实践，促进各方就关键概念定义、透明度要求、风险识别与干预机制、未成年人保护等深化规则交流。依托世界互联网大会、世界人工智能大会等国际平台，深化拟人化互动服务治理经验交流互鉴，加强双边对话、多边磋商、最佳实践案例分享等，持续宣介“以人为本、智能向善”理念，推动形成具有广泛共识的全球治理框架和标准规范，为全球人工智能治理提供中国方案。（作者：国家互联网信息办公室网络法治局）