Full text · 原文
2,990 字
随着大模型、生成式人工智能、智能体等技术的迭代创新，人工智能正在进入加速应用的新阶段，由此引发的社会公平失衡、权益边界模糊、安全隐患叠加等深层次担忧将可能同步出现。前期，相关人工智能治理实践已为人工智能应用治理奠定了重要基础。随着人工智能进入加速应用新阶段，亟需构建统一的人工智能应用伦理安全准则与行业规范，强化底线约束与合规行为引导。<br>
近日，全国网络安全标准化技术委员会组织制定的技术文件《人工智能应用伦理安全指引1.0》（以下简称《指引》）正式发布。作为回应人工智能技术应用新阶段相关伦理安全挑战的重要文件，《指引》旨在统筹发展与安全，为人工智能应用相关方提供明确的行动指南，对于保障人工智能健康有序发展具有重要意义。<br>
一、直面风险挑战，明确人工智能应用伦理安全基本框架<br>
（一）鲜明提出人工智能应用伦理安全核心理念<br>
《指引》提出“造福人类、服务社会和可持续发展”的核心理念，将应用伦理安全要求贯穿人工智能应用全过程，妥善处理人工智能与人、社会、自然的关系，保障人工智能始终服务于增进人类共同福祉。有别于可解释人工智能、可信人工智能等传统概念，这一表述适应人工智能应用过程中的鲜明特征，聚焦人工智能与人、社会、自然相互嵌入和相互影响的内在复杂性，提出了人工智能应用伦理安全的核心原则，从顶层设计上为人工智能发展锚定了向善航向，确保技术进步始终服务于人类根本利益，有助于防范人工智能应用偏离以人为本、智能向善的发展方向。<br>
（二）精准识别六大应用伦理安全影响<br>
《指引》首先深入剖析了人工智能应用可能带来的六方面伦理安全影响：一是人类主导权影响，可能导致人类在社会运行和治理过程中的主导地位受到冲击；二是公共秩序影响，可能削弱维系社会正常运行的基本信任机制；三是个体认知与社会价值影响，过度依赖可能导致个体与现实社会脱节；四是社会分化和歧视影响，可能放大偏见与歧视；五是生命健康与基本权益影响，可能对生命健康、隐私、财产等权益造成侵害；六是可持续生态影响，可能会带来系统性生态压力。这六方面安全影响适配于人工智能应用新阶段的精准定位，不仅反映了人工智能具体应用场景下的具体风险点，更聚焦于应用过程中对人类社会潜移默化的长远影响。在此基础上，《指引》着眼于人工智能引致社会变迁的宏大格局，为后续制定原则和场景指引提供了精准靶向，推动相关治理措施直面痛点、有的放矢。<br>
（三）系统确立九大应用伦理安全原则<br>
为了将理念转化为可执行的行动准则，《指引》提出了九大伦理安全原则：增进人类福祉、尊重生命权利、坚持公平公正、合理控制风险、保持公开透明、保护隐私安全、确保可控可信、敏捷共治和普惠共享。这些原则构成了人工智能应用伦理安全治理的基石，形成了体系性的治理框架。第一，在一贯强调“以人为本”的原则下，特别指出了人工智能应用应服务于人类社会需求、主导权归属人类的价值引导。在技术创新领域，鼓励人工智能多方向的自由探索；而在技术应用过程中，需要强调将“以人为本”作为方向来引导人工智能的开发部署。第二，在人工智能应用阶段体现了“发展与安全并重”的治理思路，同时突出了体现该思路的敏捷共治等具体机制，有利于形成合作共生、能力共建、收益共享的人工智能生态。第三，“普惠共享”成为人工智能应用的重要目标，这不仅包括技术供给端的开源开放，也包括需求端对人工智能全民素养的重视提升。这九大原则共同构建了立体、完整的价值防护网，不仅为行业提供了清晰的行为准绳，降低了合规的不确定性，还为可能的应用伦理冲突提供了优先级判断依据，有效平衡了创新发展与安全底线。<br>
二、覆盖多元场景，实施差异化治理策略<br>
（一）确立全流程通用指引<br>
《指引》提供了兼具通用指引和分场景指引的“统分”结合新框架。通用指引是跨领域的一般性原则，涵盖了人工智能应用伦理安全的共性要求，具体包括应用前的影响评估、符合国情与社会价值规范体系、正确认识人工智能的应用边界、保留关键环节的人类判断、重视隐私和个人信息保护、关注偏见和歧视、全面提升人工智能应用伦理素养水平等。需要注意的是，这些通用指引有一个共性特征，即超越了针对人工智能技术本身的规制，进而扩展到对人工智能与社会整体关系的引导与规范。<br>
（二）细化关键场景治理导向<br>
针对部分特定场景，《指引》给出了差异化的治理建议。例如，在涉及生命健康与人身安全的场景中，坚持以人为本、安全优先、审慎适用。在社会治理与公共服务场景中，坚持公共利益优先、依法合规，公平公正，保障公众知情、质疑、复核与救济渠道有效畅通。此外，对信息资讯与传播、知识发现与生产、金融活动等场景，也分别提出了坚持真实可信与清朗生态导向、坚持求真务实、坚持稳健审慎等具体导向，体现了精准施策的治理智慧。<br>
（三）强化重点群体保护机制<br>
在通用指引与场景化指引中，《指引》均特别强调对未成年人、老年人、残障人士等易受影响群体保护，避免人工智能应用造成使用机会不公平或加剧既有不公。例如，在应用开发环节，为易受影响群体采取专门设计考量；在服务提供环节，提升部署方式的便利性等。这充分体现了技术发展不仅追求效率、更兼顾社会公平与人文关怀的伦理价值。<br>
三、压实主体责任，构建全链条治理闭环<br>
（一）强化应用开发者源头治理责任<br>
《指引》针对应用开发环节提出，将安全可控、公平公正、隐私保护等伦理安全要求作为默认设置，推动应用开发者理性引导社会认知，避免单纯以性能或效率目标驱动迭代优化，从源头上防范技术失控风险。针对具备高度自主性的人工智能应用，应用开发者需评估其失控风险，同时对缺乏依据或者存在较大不确定性的输出作出必要管控以及提示说明，提高应用开发过程透明度，并设置事故信息回溯机制，确保责任可追溯。<br>
（二）规范服务提供者运营过程管控<br>
服务提供者作为连接技术与用户的桥梁，其责任被进一步压实。《指引》倡导其及时提示可能风险，在关键领域场景进行重要决策时，人工智能宜仅承担辅助决策作用、不提供直接决策依据。此外，服务提供者需规范保护使用者隐私和个人信息，以清楚明确且便于操作的方式向使用者提供拒绝、干预及停止使用人工智能服务的机制，尽量减少对使用者隐私和敏感个人信息的处理，持续监控人工智能应用服务过程并识别风险，设置事故应急处置机制，确保在风险发生时能及时响应，保障用户的选择权与安全权。<br>
（三）提升使用者素养与合规使用意识<br>
《指引》不仅规范了供给侧，也对使用者的行为提出了指引。例如，建议使用者保持自主判断与适度使用，形成理性、审慎的使用习惯；避免过度依赖、过度沉迷人工智能情感服务，妥善、合法地运用人工智能；在使用人工智能时，妥善保护自身敏感信息，积极履行人工智能生成合成内容标识等相关义务，及时反馈伦理安全风险。这些均体现了“多方参与、协同共治”的治理理念。<br>
总而言之，《指引》通过系统识别伦理安全影响、确立核心原则、细化场景指引并压实各方责任，为人工智能应用开发者、服务提供者和应用使用者提供了一套系统性的行动指南。同时需要看到，人工智能还在快速演化，当前的《指引》还只是1.0版本，未来将随着技术发展应用而持续更新完善。推动《指引》迭代更新、落地落实、发挥实效，有助于更好防范人工智能应用过程中的伦理安全风险，推动人工智能技术由技术逻辑向价值逻辑转变，真正实现技术造福人类的美好愿景。（作者：蒋兴浩，上海交通大学党委常委、副校长）