Full text · 原文
3,555 字
当前，人工智能技术加速演进，正从内容生成、智能交互向行业应用、公共服务、知识生产、社会治理等领域持续拓展，深刻改变生产生活方式和社会运行形态。推动人工智能健康有序发展，既要充分释放技术创新活力，也要坚持以人为本、智能向善的理念，统筹发展和安全，引导人工智能应用更好服务经济社会发展和人民美好生活。近日发布的《人工智能应用伦理安全指引1.0》（以下简称《指引》），立足人工智能应用活动实际，为推动人工智能应用伦理安全治理从原则倡导走向实践落实提供了重要参照。<br>
一、以开放协同凝聚人工智能应用伦理安全治理共识<br>
人工智能应用伦理安全治理，关系技术创新方向、产业应用秩序和社会公共利益，既需要坚持正确价值导向，也需要在应用实践中持续凝聚共识。随着人工智能应用加快拓展，不同领域、不同场景对伦理安全的理解和关注重点不尽相同，亟需形成相对统一的认识基础。《指引》编制过程中，注重汇聚有关主管部门、行业部门及产学研用各方力量，充分听取相关部门、专家学者、企业机构和行业组织意见建议。一方面，围绕人工智能应用伦理安全治理的总体方向、政策衔接和实践需求开展深入沟通，确保《指引》与人工智能治理有关部署相协调；另一方面，围绕人工智能应用活动中的伦理安全影响、理念原则和主体责任开展专业研讨，吸收不同领域、不同行业实践经验和意见建议，推动各方在治理目标、基本原则和实践路径上形成更加一致的认识。<br>
在此基础上，《指引》立足人工智能应用活动实际，将价值导向、风险边界和实践要求进一步转化为面向应用活动的共同语言和基本遵循，使伦理安全要求能够被不同主体理解、参照和落实。这既体现了人工智能应用伦理安全治理的价值共识，也兼顾了技术创新和产业应用中的现实需求，推动人工智能应用伦理安全治理从共识凝聚走向实践深化。<br>
二、把伦理安全转化为可识别的标准化对象<br>
伦理安全具有价值属性强、涉及范围广、表现形态多样等特点。对于人工智能应用治理而言，将伦理安全相关要求转化为清晰的识别维度和治理参照，有利于帮助相关主体在具体应用活动中理解要求、把握边界、开展实践。《指引》立足人工智能应用活动实际，对伦理安全相关影响进行系统梳理，推动宏观价值要求进一步转化为各方可理解、可识别的标准化对象，为人工智能应用向善发展提供重要参考。<br>
（一）拓展人工智能应用治理视野<br>
人工智能伦理安全不是孤立的道德讨论，而是人工智能深度融入经济社会发展后，与技术创新、产业应用、公共服务和社会治理相伴而生的重要议题。人工智能应用越是深入，越需要在关注技术安全、产品安全、服务安全的同时，进一步关注其对人的主体性、社会秩序、公共利益和长远发展的影响。《指引》从人工智能应用活动出发，将伦理安全纳入人工智能应用治理整体框架，有助于引导相关主体从更宽视野认识人工智能应用影响，推动人工智能更好体现以人为本、智能向善的价值取向。<br>
（二）形成伦理安全影响识别框架<br>
提升人工智能应用伦理安全治理效能，关键在于把复杂多元的伦理安全影响转化为明确的识别框架。伦理安全涉及价值取向、权利保障、责任边界、社会秩序等多个方面，具有综合性、关联性和场景性特点。对于主管部门、行业组织、企业机构和社会公众而言，形成相对清晰的识别维度，有助于在不同场景、不同环节中理解、研判伦理安全，推进伦理安全治理。《指引》通过对人工智能应用活动相关影响的系统梳理，将相对抽象、多元、复杂的伦理安全要求，转化为较为清晰的治理维度，为各方在统一框架下形成认识、开展工作、加强协同提供基础参照。<br>
（三）为重点场景治理提供基础支撑<br>
人工智能应用伦理安全治理需要从基础框架走向场景实践，重点场景是检验和细化治理要求的重要领域。公共服务、教育、医疗、金融、内容传播、知识生产等场景，与人民群众切身利益、社会公共秩序和行业发展质量密切相关，对伦理安全治理提出了更具体的实践需求。《指引》形成基础性识别框架，有助于面向重点行业、重点场景和重点主体细化治理要求、形成配套指南、开展评估验证、积累典型案例，推动人工智能应用伦理安全治理更加贴近应用实际、更加注重实践落地。<br>
三、把价值导向转化为可遵循的基本规则<br>
人工智能应用伦理安全治理，既需要价值引领，也需要将价值要求转化为应用活动中可以遵循的基本规则。《指引》在伦理安全理念中明确了人工智能应用活动的总体取向，并在伦理安全原则中从人类福祉、生命权利、公平公正、控制风险、公开透明、隐私安全、可控可信、敏捷共治、普惠共享等方面作出细化，有助于推动价值导向从原则共识进一步转化为应用活动中的规则参照，引导人工智能应用在创新发展中更好服务人的发展和社会公共利益。<br>
（一）以人为本、智能向善的价值导向<br>
人工智能应用深度融入生产生活，伦理安全治理须更加注重维护人的主体地位、保障人的合法权益、促进人的全面发展。《指引》将增进人类福祉、尊重生命权利、坚持公平公正等内容纳入伦理安全原则，有助于引导相关主体在人工智能应用活动中更加重视人的主体地位和合法权益，推动人工智能应用更好服务经济社会发展和人民群众实际需要。<br>
（二）促进发展和安全协同推进<br>
人工智能应用从技术探索走向场景落地，既带来效率提升和模式创新，也使伦理安全要求更加受到关注。《指引》将合理控制风险、保持公开透明、保护隐私安全、确保可控可信等纳入伦理安全原则，有助于引导相关主体在人工智能应用活动中统筹考虑创新价值与安全要求，把伦理安全要求融入方向把握、制度安排和过程管理之中，为人工智能应用规范有序发展提供价值参照。<br>
（三）形成价值引领与行为约束相统一的规则体系<br>
人工智能应用伦理安全治理需要在明确价值取向的基础上，进一步划定应用活动应当遵循的基本边界。《指引》围绕增进人类福祉、尊重生命权利、坚持公平公正、普惠共享等要求，明确人工智能应用应当服务人的全面发展和社会公共利益；围绕合理控制风险、保护隐私安全、确保可控可信等要求，明确人工智能应用应当坚持必要的安全边界和责任约束；围绕保持公开透明、敏捷共治等要求，明确人工智能应用应当增强可理解性、可监督性和协同治理能力。通过将价值目标、风险边界和治理方式相衔接，《指引》推动伦理安全原则从一般性理念转化为人工智能应用活动可以对照把握的基本规则，引导相关主体在促进创新应用的同时，更好兼顾权益保护、风险防范和公共利益维护。<br>
四、把原则要求转化为可操作的应用指引<br>
围绕人工智能应用活动中的实践需求，《指引》在明确伦理安全影响、理念和原则的基础上，进一步将相关要求延伸到应用活动层面，围绕通用要求以及应用开发、服务提供、应用使用等环节形成实践参照，有助于推动伦理安全要求从价值共识和原则要求进入具体应用过程，为相关主体规范开展人工智能应用活动提供行为参考。<br>
（一）以通用指引明确应用活动共性要求<br>
《指引》围绕人工智能应用活动给出通用指引，将伦理安全理念和原则进一步衔接到应用目的、能力边界、人的监督、权益保护、风险防范等基础环节。通过对共性事项作出引导，《指引》为不同主体、不同场景开展人工智能应用活动提供了基本参照，使伦理安全要求能够从原则层面进入具体应用过程。<br>
（二）面向应用活动各方明确实践要求<br>
人工智能应用伦理安全要求需要落实到应用开发、服务提供和应用使用等具体活动中。《指引》面向应用活动各方提出要求，体现了根据不同环节特点推动责任落实的思路。对应用开发环节，重在推动伦理安全要求前置融入目标设定、功能设计、技术实现和测试验证等过程，促进人工智能应用从源头提升安全性、适用性和可预期性。对服务提供环节，重在推动伦理安全要求贯穿服务运行、用户交互和风险处置等过程，促进人工智能服务在具体场景中保持规范、可控、可信。对应用使用环节，重在推动使用者科学认识人工智能能力边界、理性审慎开展应用活动，共同维护安全有序、健康良好的人工智能应用生态。<br>
通过面向应用活动各方明确实践要求，《指引》将伦理安全原则进一步转化为开发有遵循、服务有规范、使用有边界的应用指引。这样的安排，既有利于推动相关主体在各自环节履行相应责任，也有利于促进应用开发、服务提供和应用使用之间形成衔接配合，推动人工智能应用伦理安全要求更好融入实际活动、落到具体场景。<br>
《指引》作为人工智能应用伦理安全治理的基础性文件，立足应用活动实际，突出价值引领、规则传导和责任落实，为完善人工智能伦理安全治理体系提供了重要支撑。面向未来，建议以《指引》发布实施为契机，围绕重点行业、重点场景和重点主体，持续完善配套标准、实践指南、评估方法和典型案例，推动人工智能应用伦理安全要求更好融入技术创新、产业发展和社会治理实践，引导人工智能始终沿着以人为本、智能向善、安全可信的方向健康有序发展。（作者：范科峰，中国电子技术标准化研究院副院长）