Full text · 原文
3,679 字
今年是中国共产党成立105周年、“十五五”规划开局之年，在刚刚闭幕的全国两会上，众多代表委员围绕人工智能积极建言献策，推动人工智能健康安全发展。在网络信息服务业态不断革新、人工智能技术快速迭代、数字虚拟人应用场景持续拓展的时代背景下，国家互联网信息办公室制订《数字虚拟人信息服务管理办法（征求意见稿）》（以下简称《办法》）。《办法》精准回应社会关切，有效破解行业发展痛点难题，既为数字虚拟人信息服务健康有序发展划定清晰路径、筑牢安全屏障，也为全方位保障公民、法人和其他组织的合法权益提供了坚实的制度支撑，是我国人工智能治理体系完善的重要里程碑。<br>
一、坚持智能向善，顺应时代发展大势<br>
以习近平同志为核心的党中央高度重视人工智能健康发展与安全治理。习近平总书记在中共中央政治局第二十次集体学习时强调，人工智能带来前所未有发展机遇，也带来前所未遇风险挑战。要把握人工智能发展趋势和规律，加紧制定完善相关法律法规、政策制度、应用规范、伦理准则，构建技术监测、风险预警、应急响应体系，确保人工智能安全、可靠、可控。《办法》坚持智能向善的原则，为人工智能高质量发展和高水平安全提供重要法治保障。<br>
（一）落实国家战略部署，夯实人工智能治理制度基础<br>
党的二十届三中全会与“十五五”规划立足总体国家安全观，围绕人工智能安全治理作出明确部署。三中全会明确提出，要建立人工智能安全监管制度，完善生成式人工智能发展和管理机制，强调制度化的前瞻预防与约束引导，确保人工智能安全健康发展。“十五五”规划进一步深化，提出全面实施“人工智能+”行动。《办法》不仅是对国家顶层设计的战略响应，更是为数字经济的健康发展夯实底层逻辑，充分彰显我国人工智能发展“以人为本、智能向善”的核心理念，是顺应新时代管网治网要求、有效应对新技术新应用安全风险的关键举措，也为全球人工智能行业治理贡献了兼具可行性与前瞻性的“中国方案”与“中国智慧”。<br>
（二）顺应人民群众期盼，切实保护网民合法权益<br>
今年全国两会期间，全国政协委员靳东针对AI换脸乱象频发、维权难度大的现实困境，公开呼吁加快相关领域立法进程，坚决遏制技术滥用。人民群众的焦虑，本质是对技术越界的担忧。《办法》单独设置“权益保护”章节，明确提出针对个人信息、人格权、知识产权、未成年人等权益保护措施，有力推动“保护个人信息、尊重人格尊严、维护知识产权”内化为行业共识，真正让数字虚拟人成为丰富生活的安全“助手”，而非侵蚀权益的隐患“毒手”。《办法》顺应人民呼声，消除技术发展带来的不安，让人民群众在信息化发展中有更多获得感、幸福感、安全感。<br>
（三）深化网络乱象治理，促进网络生态健康发展<br>
《办法》直指当前网上各种乱象和不良现象，坚决实施“靶向治疗”。《办法》明确提出，任何组织和个人提供数字虚拟人服务，不得生成法律法规禁止的内容，不得从事商品或者服务虚假宣传、恶意诱导消费、电信诈骗等违法活动。《办法》还明确身份告知、数据处理等方面服务规范，从技术治理源头筑牢网络信息内容安全防线，为企业划定清晰的行为底线与法律红线，更加有利于企业降低合规成本与经营风险，推动行业合规化、安全化、可持续发展，构建智能时代安全有序、健康向善的网络生态，让人工智能新技术新应用真正惠及社会、服务民生。<br>
二、突出敏捷治理，构建全链条合规体系<br>
国家网信办此次推出数字虚拟人专项管理办法，是监管部门积极履行依法管网、技术管网、精准治网职能的生动实践，充分彰显敏捷治理、前瞻治理、精准治理的现代化治理理念，为数字虚拟人行业划定合规底线、明确发展方向、明晰责任边界，推动行业规范有序发展。<br>
（一）坚持发展与安全协同，筑牢行业发展底线<br>
《办法》开篇即明确立法宗旨，将“促进数字虚拟人信息服务健康发展和规范应用，保障公民、法人和其他组织的合法权益”作为核心目标，通篇贯穿“发展与安全同步推进、协同发力”的核心思路，实现鼓励创新与严守底线有机统一。一方面，秉持包容审慎监管原则，鼓励数字虚拟人技术在各行各业落地应用，在坚守智能向善、安全可控的前提下，支持行业开展示范化服务、场景化创新，为行业创新发展提供政策支撑，充分释放技术创新活力；另一方面，严守内容安全和价值导向底线，明确要求服务全过程必须坚持社会主义核心价值观，严格遵守法律法规，坚决维护国家安全、社会公共利益与他人合法权益，通过设置禁止性条款、列明违规红线并配套监督罚则、划定行业刚性边界，确保数字虚拟人产业始终沿着合规向善、安全可控的方向稳步前行。<br>
（二）聚焦权益精准保护，破解行业治理难题<br>
治理数字虚拟人行业乱象，核心在于筑牢各类主体合法权益防护屏障，破解AI技术应用带来的权益失衡、权益受损难题。相较于传统互联网信息服务，AI生成的高仿真数字虚拟人极易引发公众混淆，进而带来肖像权、人格权、知识产权、隐私权等权益纠纷。对此，《办法》构建起“事前-事中-事后”全流程权益保护体系，实现精准施策、全方位防护。事前，严格规范自然人肖像、声音等个人信息的使用流程，明确要求获取合法授权，严把虚拟人形象生成源头关；事中，强化服务过程中的人格权、知识产权保护，严守商业道德与行业规范，全方位保障各方主体合法权益；事后，明确服务提供者在停止授权或服务终止后，必须采取安全防护措施防范个人信息泄露、权益受损等问题，有效补齐虚拟人产业合规治理短板，推动行业形成权责清晰、维权有道、保障有力的良性发展格局。<br>
（三）强化系统综合治理，构建闭环监管机制<br>
针对数字虚拟人技术迭代快、应用场景广、风险隐患隐蔽复杂的行业特性，《办法》坚持系统思维，统筹源头管控与全程监管，构建全方位、多层次、闭环式技术治理体系，推动行业治理从被动应对向主动防控、前端治理转变。一方面，《办法》全面压实主体责任，明确要求相关主体健全内部管理制度、内容审核机制与技术防控措施，严格规范数据收集、使用、存储全流程，确保数据来源合法合规，严防数据泄露、滥用等风险；重点落实身份告知义务，要求数字虚拟人服务全程在显著位置标注“数字人”提示标识，清晰明示虚拟身份属性，充分保障公众知情权与辨识权，从源头压缩违法违规操作空间。另一方面，推动新规与现有人工智能监管体系有效衔接，明确算法备案、安全评估等核心监管要求，畅通公众维权与监督渠道，通过制度规范、责任压实多管齐下，构建起刚性约束与柔性引导相结合、事前防范与事后处置相衔接的高效治理格局。<br>
三、凝聚多方共治合力，营造清朗网络空间<br>
习近平总书记强调，网络生态治理事关国家发展和安全，事关人民群众切身利益。网络空间是亿万民众共同的精神家园，必须充分发挥多元主体协同共治效能。推动《办法》制定，实现数字虚拟人健康安全发展、构建人机和谐共生的数字生态，需要凝聚政府、企业等多方共治合力，筑牢协同治理坚固屏障。<br>
（一）强化政府引领作用，系统谋划与精准发力并举<br>
《办法》作为我国人工智能领域互联网信息服务管理体系的重要组成部分，与《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等制度形成有效衔接，进一步补齐数字虚拟人领域监管短板，实现对人工智能新业态的精准化、精细化管理。《办法》鼓励数字虚拟人服务在各领域的应用落地，在保证智能向善和安全可控的前提下推动示范应用，支持数字虚拟人技术研发创新、健全标准体系、参与国际交流合作等内容，推动构建完善数字虚拟人服务生态体系。更深层次地看，真正做到既紧跟技术发展新趋势新特点，又紧盯网络空间新问题新缺口，系统谋划、精准发力，在防范意识形态风险、保护数据安全等宏观层面起到积极作用，引领数字虚拟人行业高质量发展。<br>
（二）压实企业主体责任，确保安全发展相互促进<br>
《办法》进一步明确了数字虚拟人服务提供者、服务使用者、技术支持者、传播平台等相关主体的规范要求，注重强化压实主体责任，将安全合规贯穿于产品设计、研发、运营全过程。《办法》明确提出，数字虚拟人服务提供者应当建立数字虚拟人服务安全风险监测、预警和应急处置、防沉迷提示等机制，建立完善内容导向管理制度。强化企业主体责任，既是强化业务部门守好第一道安全合规防线的关键环节，也是构建清朗网络空间、防范化解新兴技术风险的必要之举。唯有引导企业自觉将安全合规作为生存发展的底线红线，把社会责任融入价值追求，才能形成政府监管、企业履责、社会监督的协同共治格局，推动数字虚拟人服务在法治轨道上健康有序发展，让技术创新真正成为造福人民、服务社会的积极力量。<br>
（三）汇聚行业协同力量，构建健康互动生态<br>
《办法》提出，鼓励相关行业组织加强行业自律，建立健全团体标准、行业准则和自律管理制度，督促指导相关主体制定完善服务规范、强化主体责任并接受社会监督。《办法》为行业组织深化人工智能治理提出新的要求，有利于汇聚社会多元主体共同参与、协同发力，围绕信息服务、数据安全、个人信息保护、未成年人保护等领域，建立统一的技术标准、评估方法和认证规范，为数字虚拟人产业健康发展提供规范指引。（作者：薄兆一，中央网信办数据与技术保障中心副主任、高级工程师）