Full text · 原文
2,249 字
生成式人工智能是人类科学技术发展的重要成果，为引领和带动新一轮产业变革提供了可能。近年来，生成式人工智能技术不断成熟，展现出全方位提升人类生产生活效率的重要潜力，揭开人类社会智能化演进的趋势。然而，生成式人工智能也在网络安全方面带来新挑战、新风险。如何发展好、运用好、管理好生成式人工智能，已经成为全世界面临的共同挑战。<br>
在此背景下，国家网信办等七部门发布了《生成式人工智能服务管理暂行办法》（以下简称《办法》）。《办法》的出台将从政策法规层面为我国生成式人工智能健康发展保驾护航，是统筹发展和安全的重要举措。同时，《办法》作为国际上首先出台的积极应对生成式人工智能安全风险的专门立法，为有序开展相关管理工作明确了方向。 <br>
一、《办法》明确生成式人工智能服务安全要求<br>
（一）聚焦生成内容安全，引导服务向上向善 <br>
生成式人工智能服务已成为用户在网络获取知识的重要途径之一，服务所提供的内容将直接影响用户对事物的认知，《办法》明确坚持社会主义核心价值观，要求服务提供者不得生成违法信息，并明确提出防歧视等要求。生成式人工智能服务所产生内容的质量高低、安全与否主要取决于训练数据，《办法》要求服务提供者采取有效措施提高训练数据质量，增强数据的真实性、准确性、客观性、多样性，并指导服务提供者做好数据处理、数据标注等方面的安全管理工作。<br>
（二）聚焦用户权益保护，保障服务合法合规 <br>
生成式人工智能服务带来新的安全问题、安全风险，为保护用户权益，服务的过程和形式需要正确的引导，《办法》提出服务提供者需明确并公开服务的适用人群、场合、用途，防范未成年人用户过度依赖或者沉迷。生成式人工智能服务因其技术特点，易涉及用户敏感数据，需进行重点保护，《办法》围绕商业秘密、用户个人信息保护提出要求，并明确了服务提供者对用户输入信息和使用记录的保护义务，为用户安全使用服务提供保障。<br>
（三）聚焦使用模式管理，防范服务滥用误用 <br>
生成式人工智能服务涉及的用户数量多、业务跨度大，用户的服务使用情况需受到合理监督，《办法》明确了服务提供者发现使用者利用生成式人工智能服务从事违法活动的，应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施，保存有关记录，并向有关主管部门报告。生成式人工智能服务产生的内容逼真度高、迷惑性强，极易误导用户，《办法》提出针对图片、视频等生成内容进行明显标识的要求，防止用户误用生成内容。 <br>
二、《办法》引导构建生成式人工智能安全治理环境 <br>
（一）鼓励创新应用，统筹发展和安全<br>
当前，我国生成式人工智能处于关键发展时期，需以安全保发展、以发展促安全，推动生成式人工智能稳步快速发展。《办法》一是进一步明确了发展和安全并重、促进创新和依法治理相结合的原则，对生成式人工智能实行包容审慎的监管；二是鼓励生成式人工智能在各行业领域创新应用，探索优化应用场景，支持专业机构在技术创新、数据资源建设、转化应用、风险防范等方面开展跨行业领域协作，构建应用生态体系；三是鼓励算法、框架、芯片、配套软件等基础技术自主创新，推动全产业链持续发展。<br>
（二）强化主体责任，构建多方治理架构 <br>
生成式人工智能服务产业链条正在逐步形成，需要进一步强化主体责任，促进各环节安全水平提升。《办法》一是明确了提供者应依法承担网络安全信息内容生产者责任，履行网络信息安全义务；二是明确了涉及个人信息的，提供者应依法承担个人信息处理者责任，履行个人信息保护义务；三是规定了提供者与使用者应签订服务协议，明确双方权利义务。《办法》从多角度明确治理规则、强调治理要求，明确了用户对服务的监督作用，要求提供者建立投诉举报机制，强调使用者有权向有关部门投诉举报。<br>
（三）推动标准工作，支撑《办法》细化落地<br>
与《办法》相关工作同步，配套支撑《办法》细化落地的网络安全相关国家标准已提前布局、统一推动。全国信息安全标准化技术委员会已发布《信息安全技术生成式人工智能预训练和优化训练数据安全规范》、《信息安全技术生成式人工智能人工标注安全规范》标准需求，并推动《信息安全技术生成式人工智能服务安全总体要求》标准研制工作，对防范生成式人工智能重大安全风险、提升生成式人工智能总体安全水平起到规范引导作用。 <br>
三、加快推动《办法》贯彻落实<br>
《办法》的公布为我国生成式人工智能服务的健康发展提供了重要法制保障，建议加快《办法》的贯彻落实。<br>
一是全面推动《办法》宣贯培训。面向互联网企业、人工智能以及其他智能相关重点行业领域，开展针对性宣传解读，充分宣传《办法》精神，广泛凝聚安全共识，促进行业自律发展。面向社会全面开展科普培训，促进生成式人工智能服务使用者理解国家政策、提高安全意识，促进形成多方参与、共同治理的良好局面。<br>
二是建立生成式人工智能服务安全评估机制。推动《办法》配套安全评估机制及配套评估力量建设，督促具有舆论属性或者社会动员能力的服务提供者开展安全评估，及时发现安全风险、整改安全问题、提高安全水平。<br>
三是加强生成式人工智能服务安全标准化工作。加快开展《办法》配套网络安全相关国家标准研制工作。积极推动安全总体要求、训练数据集安全、人工标注安全等标准工作的研究制定，进一步发挥标准对生成式人工智能管理工作的支撑作用；同步开展标准化前瞻研究，围绕生成式人工智能分类分级、生成内容标识、使用者服务协议等方面开展预研，不断提升标准化工作的科学性、引领性、前瞻性。（作者：杨建军 中国电子技术标准化研究院党委书记）