Full text · 原文
2,611 字
为促进生成式人工智能健康发展和规范应用，国家互联网信息办公室等部门公布《生成式人工智能服务管理暂行办法》（以下简称《办法》），充分表明支持生成式人工智能健康发展的态度，针对生成式人工智能发展的数据安全、个人隐私、虚假信息、知识产权等关键问题作出制度安排，是贯彻落实党中央对新技术新应用领域决策部署的重要举措，是全球首部针对生成式人工智能的专门立法，在促进产业发展和规制风险方面，形成了中国式立法探索。<br>
一、《办法》充分表明了支持生成式人工智能发展的立法导向<br>
习近平总书记强调，人工智能是新一轮科技革命和产业变革的重要驱动力量，加快发展新一代人工智能是事关我国能否抓住新一轮科技革命和产业变革机遇的战略问题。我国高度重视人工智能的健康发展，在生成式人工智能飞速发展的背景下，中共中央政治局会议强调“要重视通用人工智能发展，营造创新生态，重视防范风险”。《办法》贯彻落实党中央有关人工智能发展的重要指示，充分表明了我国支持生成式人工智能发展的态度。一是《办法》确立了促进生成式人工智能健康发展和规范应用的立法目的。《办法》在总则中首先将“促进健康发展”作为立法目的之一，同时明确了“国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。”二是《办法》明确了以《科学技术进步法》为上位法依据。《科学技术进步法》是促进高水平科技自立自强的法治保障，《办法》以其为上位法，展示了我国健全生成式人工智能创新保障措施，促进生成式人工智能技术发展应用的导向。三是《办法》提出了鼓励生成式人工智能技术发展的具体举措。《办法》专门就“技术发展与治理”作出专章规定，特别是第五条、第六条提出了鼓励生成式人工智能技术发展的措施，明确国家鼓励生成式人工智能技术在各行业、各领域的创新应用；支持行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等在生成式人工智能技术创新、数据资源建设、转化应用、风险防范等方面开展协作；鼓励生成式人工智能基础技术的自主创新，平等互利开展国际交流合作；推动生成式人工智能基础设施和公共训练数据资源平台建设等。总体来看，《办法》作为我国在生成式人工智能领域的专门立法，充分考虑了创新发展的客观需要，就生成式人工智能健康发展的关键问题规定了促进措施、明确了发展方向。<br>
二、《办法》积极回应生成式人工智能可能带来的风险<br>
国际社会积极关注生成式人工智能可能产生数据安全、版权纠纷、算法治理等问题，表达了对由此带来的数据安全、国家安全风险的担忧。欧盟迅速在其备受关注的《人工智能法案》中区分了“基础模型”和生成式人工智能应用，并考虑将生成式人工智能应用纳入“高风险”管理，提出相应合规义务。英国注重引导生成式人工智能发展，特别强调了数据保护、透明度、风险评估、算法治理等八个方面的监管重点。世界主要国家和地区的立法及监管实践，对我国促进和规范生成式人工智能提供了相应经验和参考。<br>
我国坚持发展与安全并重，在强调促进生成式人工智能发展的同时，也注重防范生成式人工智能可能带来的风险。《办法》对生成式人工智能可能产生的风险进行了规制。生成式人工智能对人工智能领域国家竞争力产生深远影响，但同时也对安全带来挑战。《办法》精准应对其带来的相关风险，明确义务和责任，对各界普遍关注的问题进行了回应，既符合现实需求，也符合国际趋势。第一，内容安全风险。生成式人工智能在训练过程中，如使用有偏见的数据进行训练，最终可能生成具有偏见或歧视的内容；同时，主导者的意志、观念对于生成式人工智能输出的内容具有较大影响，主导者如按照主观意愿与偏见对生成式人工智能进行训练，生成式人工智能将会延续偏见，最终造成潜在的社会隐患和危害。应对上述问题，《办法》提出了采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视以及其他法律、行政法规禁止的内容的要求。第二，侵害个人信息权益风险。《办法》明确了训练数据涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形，并要求生成式人工智能服务提供者及时受理和处理个人关于查阅、复制、更正、补充、删除其个人信息等的请求。第三，数据安全风险。用户在生成式人工智能中输入的数据可能会被用作进一步迭代的训练数据，并出现在后续生成式人工智能生成的内容中。由此，一旦用户输入的信息中包含个人信息、商业秘密等数据，将面临无形之中被泄露的风险。对此，《办法》规定，生成式人工智能服务提供者对生成式人工智能服务使用者的输入信息和使用记录应当依法履行保护义务。<br>
三、《办法》进一步强化了生成式人工智能发展治理的法律制度<br>
《办法》针对数据、内容安全、知识产权等生成式人工智能发展的关键问题，作出了明确的制度安排。一是在数据领域，《办法》鼓励公共数据的有序开放，推动公共数据分类分级有序开放，拓展高质量的公共训练数据资源；明确训练数据的处理规则，要求数据和基础模型的来源合法，并采取有效措施提高训练数据质量；衔接个人信息保护规则，规定个人信息的收集、留存、向他人提供等均应依法进行。二是在内容领域，《办法》鼓励生成积极健康、向上向善的优质内容，要求不得生成法律、行政法规禁止的内容，并要求对图片、视频等生成内容进行标识。三是在知识产权领域，《办法》明确了尊重知识产权的原则性要求，明确训练数据处理活动不得侵害他人依法享有的知识产权。《办法》衔接了《网络安全法》《数据安全法》《个人信息保护法》《科学技术进步法》有关网络安全、数据安全、个人信息保护等的要求，科学处理了与现有立法之间的关系，为生成式人工智能发展治理构建了全面系统的制度安排。<br>
综上，《办法》是全球首部专门规范生成式人工智能服务的立法，是我国在新兴领域立法的最新成果，体现了我国对新技术新应用发展规制策略的持续推进。我国高度重视新兴领域立法工作，应对新技术新应用快速发展趋势，围绕算法、深度合成等突出领域及时开展立法工作，出台相应管理规定，促进和规范行业发展。对算法歧视、“大数据杀熟”、诱导沉迷、深度伪造等国内外关注的问题，及时作出立法回应。《办法》立足于我国新兴领域立法经验和基础，以促进生成式人工智能健康发展为目标，积极构建符合我国实际的治理制度，有助于促进人工智能产业健康发展。（作者：肖荣美 中国信息通信研究院政策与经济研究所副所长）