Full text · 原文
3,237 字
近年来，人工智能深度融入经济社会各领域，深刻改变人类生产生活方式。同时，算法偏见、隐私泄露、滥用风险等伦理安全问题愈发突出，侵害个人权益、扰乱社会秩序甚至危害国家安全风险不断上升。习近平总书记高度重视人工智能治理，强调要把握人工智能发展趋势和规律，加紧制定完善相关法律法规、政策制度、应用规范、伦理准则。近日，全国网络安全标准化技术委员会发布《人工智能应用伦理安全指引1.0》（以下简称《指引》），系统划定人工智能应用伦理安全边界与底线，为人工智能健康有序、安全可控、向善发展提供规范化依据与实操性遵循。<br>
一、统筹发展与安全，健全中国特色人工智能伦理安全治理体系<br>
我国立足国情与治理实践，防范化解人工智能伦理安全风险，逐步构建以顶层设计为引领、柔性指引与刚性规制协同的中国特色人工智能伦理安全治理体系。柔性指引层面，先后出台《新一代人工智能伦理规范》《关于加强科技伦理治理的意见》以及《人工智能安全治理框架》1.0版、2.0版，将伦理要求嵌入人工智能全生命周期，系统防范安全风险。刚性规制层面，通过《互联网信息服务算法推荐管理规定》《生成式人工智能服务管理暂行办法》《人工智能拟人化互动服务管理暂行办法》以及新修订的《中华人民共和国网络安全法》，完善伦理安全规范、强化风险监测评估与合规监管。在顶层统筹层面，我国依托科技伦理治理、网络信息治理、产业治理等多方面机制，推动形成多部门协同、社会各方参与的治理格局，通过《全球人工智能治理倡议》参与全球治理，通过《国务院关于深入实施“人工智能+”行动的意见》进一步探索形成智能向善理论体系。<br>
我国人工智能伦理安全治理体系持续健全完善，伦理风险防控加速从制度层面逐步走向实践落地，现阶段仍面临诸多现实堵点与突出难题。人工智能加速赋能千行百业，出台《指引》既是推动人工智能规范合规、健康有序发展的内在要求，也是有效防范化解人工智能应用层面伦理安全风险的现实举措。<br>
一是筑牢伦理安全防线，保障人工智能健康有序发展。《指引》的出台，立足人工智能发展新阶段，围绕人类主导权、公共秩序、个体认知与社会价值、可持续生态影响等重点方向，系统提出伦理安全理念、原则与行为规范，有助于推动人工智能在可控、可靠、安全轨道上发展，防止技术异化和失控滥用，确保人工智能始终服务于人类共同福祉、服务经济社会发展。<br>
二是规范产业发展秩序，推动人工智能负责任创新。《指引》围绕应用开发、服务提供、应用使用等全链条提出明确要求，强调将以人为本、生命至上、公平公正、公开透明、可控可信等伦理安全要求贯穿人工智能应用活动全过程，推动企业在技术创新和产业应用过程中更加注重伦理安全责任与治理。这既有助于营造规范有序、健康可持续的产业生态，也有利于推动人工智能产业在规范有序中实现更高质量发展，进一步提升产业创新能力、应用水平和社会信任度。<br>
三是提升全民使用素养，防范技术滥用风险。《指引》强调正确认识人工智能的能力边界和潜在影响，倡导增强自主判断、妥善运用人工智能，明确提出提升公众对虚假错误信息、误导性内容和伦理安全风险的识别能力。同时，《指引》鼓励建立风险提示、投诉举报、反馈纠偏等机制，推动形成政府、企业、社会公众多方参与的协同治理格局，有助于提升全民人工智能应用素养和风险防范意识，减少技术滥用对社会造成的不良影响。<br>
二、强化技术指引，全方位筑牢伦理安全防线<br>
一是为各应用主体提供明确行为准则。《指引》围绕应用开发者、服务提供者和应用使用者三类主体，分别提出系统性规范要求，明确人工智能研发、部署、运营、使用全过程中的责任边界和行为要求。在开发环节，强调提升可控性、公平性、透明度等目标贯穿应用开发与更新，要求开发者开展伦理安全影响评估、设置事故信息追溯机制；在服务提供环节，强调理性引导、隐私保护、风险提示和应急处置；在应用使用环节，倡导妥善运用、审慎提供敏感信息、尊重他人合法权益。通过建立全链条责任体系，《指引》有助于推动各主体形成规范意识和责任意识，减少人工智能应用活动中的伦理安全失范行为。<br>
二是防范化解人工智能伦理安全风险。人工智能风险具有复杂性、隐蔽性、扩散性和外溢性等特点，一旦失控，可能对个人、社会乃至国家层面造成较大影响。《指引》聚焦人工智能可能带来的人类主导权弱化、社会秩序影响、价值体系冲击、偏见歧视、合法权益侵害、可持续生态压力等问题，提出覆盖事前预防、事中监测、事后处置的系统性治理要求。例如，《指引》要求建立必要的应急处置与人工干预机制，防范人工智能脱离人类监督；要求持续监控服务及运行过程，识别发现伦理安全风险并及时处置；要求设置事故信息追溯机制，实现责任追溯。这些措施有助于提升人工智能风险治理能力，增强技术应用的安全性和可控性。<br>
三是引导人工智能向善发展。《指引》坚持以人为本、智能向善的理念，强调人工智能应服务于经济社会发展和人民福祉提升，而非削弱人的主体地位或加剧社会不公。《指引》强调公平包容、机会均等和普惠共享，关注未成年人、老年人、残障人士等重点群体权益，倡导人工智能提升公共服务公平性与可及性。同时，鼓励开源创新、知识共享和多元技术路径探索，推动人工智能应用成果更广泛惠及社会公众。这有助于推动人工智能技术始终与社会公共利益保持一致，引导人工智能始终坚守正向价值、坚持向善发展。<br>
四是完善伦理安全协同治理体系。人工智能治理是一项系统工程，既涉及法律法规、伦理规范、技术标准，也涉及社会监督、国际合作和公众参与。《指引》在理念层面提出敏捷共治、协同治理等原则，在实践层面提出伦理安全评估、风险监测、信息提示、投诉反馈等制度安排，为构建我国人工智能伦理安全治理体系提供了重要补充。同时，《指引》强调加强国际衔接与安全互认，推动治理规则、技术标准和安全基准兼容互洽、同步演进，有助于提升我国在全球人工智能治理中的活跃度和影响力，推动形成开放、合作、共赢的人工智能治理格局。<br>
三、构建协同共进发展格局，护航人工智能高质量发展<br>
一是规范人工智能产业发展。《指引》的出台有助于进一步规范人工智能产业发展秩序，推动行业从重速度、重规模向重质量、重安全、重责任转变。通过明确伦理安全要求和风险防控机制，减少无序竞争、低水平重复建设以及因安全问题导致的产业风险，增强市场主体的合规意识和长期发展能力。同时，统一规范有助于增强社会公众和市场对人工智能产品与服务的信任度，推动人工智能实现规范、有序、可持续发展。<br>
二是推进人工智能创新生态建设。《指引》并非限制技术创新，而是强调安全与发展并重，推动技术创新更加注重长期价值和社会责任。通过将可控可信、公平公正、隐私保护等要求前置到研发和设计阶段，有助于推动可信人工智能、隐私计算、可解释算法、安全评测等关键技术发展。同时，《指引》鼓励开源生态建设、多元技术探索和协同创新，有利于形成更加开放包容、健康可持续的人工智能创新生态，提升我国人工智能核心竞争力。<br>
三是提升智能化社会治理水平。人工智能正在深刻改变社会治理模式。《指引》有助于推动人工智能在医疗健康、信息传播、科研教育等领域规范应用，在提升治理效率和治理能力的同时，防止自动决策失当、信息操纵、侵害知识产权等问题影响人身安全和社会公平。特别是在社会治理、公共服务等关键领域，《指引》强调普惠可及、程序正当、结果复核和公众救济机制，有助于维护社会公平正义，提升现代化治理能力和治理公信力。<br>
四是健全公众权益保护机制。《指引》更加突出对个人合法权益的保护，围绕隐私保护、个人信息安全、知情权、选择权、申诉权等提出明确要求，有助于增强公众在人工智能时代的安全感和获得感。同时，《指引》强调妥善运用使用人工智能，防范过度依赖、沉迷使用、虚假信息误导等问题，并要求加强未成年人、老年人、残障人士等重点群体保护。这有助于推动形成安全、可信、健康的人工智能应用环境，更好保障人民群众合法权益。（作者：刘博，国家互联网应急中心党委副书记、副主任）