Full text · 原文
1,804 字
当前，以自主感知、记忆、决策、交互与执行为核心的智能体技术，正从前沿技术探索迈向规模化应用，并加速进入各种垂类场景，新的应用形态及商业模式持续涌现，成为塑造新质生产力、推动社会智能化转型的重要驱动力。然而，智能体在延续人工智能技术现有各类风险的同时，也带来权限过大、行为失控、工具投毒等新型风险，引发全社会广泛关注。近日，国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》（以下简称《实施意见》），旨在进一步落实国务院《关于深入实施“人工智能+”行动的意见》，促进智能体规范应用与创新发展。《实施意见》系统回应如何在智能体技术快速迭代演进，潜在风险日益复杂的背景下，确保其行进在安全、可靠、可信的轨道上。<br>
一、智能体新技术发展带来新治理挑战<br>
智能体技术的发展使人工智能治理的逻辑发生深刻变化。相较于大模型，智能体进一步展现出自主性、交互性等特征，能够理解复杂目标、自主规划并执行一系列任务。这也意味着人工智能的风险性质已经从内容风险向行为风险扩散，且影响范围更广，传导速度更快，责任主体更加模糊。一方面，智能体在复杂环境中出现的错误决策或越权操作可能直接导致事故，另一方面，攻击者也可能通过工具投毒等各类新型手段劫持智能体用于违法犯罪行为。这一根本变化，使得智能体治理不仅要对静态“输出内容”进行管理，也要对动态“行为边界”进行规范。<br>
二、多措并举筑牢智能体安全防范底线<br>
《实施意见》的出台，正是对现有人工智能治理体系的必要深化与拓展，从明确产品准则、防范安全风险、完善治理体系、强化行业自律四个方面着手，多措并举构建智能体治理体系。<br>
一是明确产品准则。《实施意见》及时回应了智能体授权决策边界这一关键问题，要求厘清仅限用户本人决策、需由用户授权决策、智能体自主决策等不同决策方式的合理界限，确保用户对智能体自主决策享有知情权和最终决策权。加强智能体行为管控，确保智能体行为合法合规、可追溯、可验证。同时确保智能体行为符合主流价值导向，重点防范未成年人、老年人等群体的沉迷成瘾、情感依赖风险。<br>
二是防范安全风险。《实施意见》重点关注智能体内生安全、供应链安全及应用衍生安全风险，通过推动相关安全技术研究和风险识别预警提升风险防范能力，要求强化对智能体全链条安全风险的防范，尤其是避免智能体被恶意用于违法犯罪行为，防止智能体风险的衍生和扩散。<br>
三是完善治理体系。敏捷治理强调治理机制的适应性与响应速度，《实施意见》明确提出要构建分类分级的治理框架，根据应用场景和潜在影响，审慎稳妥地开展智能体分级治理，并针对不同风险级别应用场景，采取备案、检测、产品召回、信息报告、平台管理、行业自律等多元举措实现高效治理，推动健全第三方专业合规服务体系。<br>
四是强化行业自律。行业自律可填补法律刚性规制与技术创新灵活性之间的“治理间隙”，快速汇聚共识。《实施意见》鼓励行业组织、主要企业联合制定智能体功能合规、算法治理等规范细则。聚焦智能体开发者、开发平台、分发平台、服务提供者等多元主体，指导建立公平合理的平台规则及用户协议，加强智能体相关风险的宣传教育和用户培训。并鼓励探索智能体信用评价机制，引导各方参与信用评价，共同营造良好发展环境。<br>
三、迈向可信的智能未来<br>
《实施意见》的出台有助于为智能体这一快速演进的技术领域，构建起一套基础性的治理和发展框架。<br>
一是为产业提供确定性的发展预期。清晰的政策规则能降低市场不确定性，帮助企业明确研发与商业化的边界，将资源和投资更有效地集中于符合规范的技术创新与场景探索，有助于形成稳定、可持续的产业发展环境，避免因规则缺失或模糊而引发的市场无序状态。<br>
二是在社会层面构建风险防护网。《实施意见》通过设定全链条安全要求，特别是对关键领域和脆弱群体的重点保护，系统性预防智能体技术滥用、决策失控等风险，保护国家安全、公共利益和人民权益，为智能体技术在全社会规模化应用建立必要的安全信任基础。<br>
四、结语<br>
展望未来，随着智能体技术突破与应用深化，社会各界更需要“边发展、边学习、边治理”的定力和智慧。唯有在创新与规范之间找到动态平衡，在技术能力与社会理性之间建立持续对话，我们才能真正驾驭智能体这一强大工具，使其成为经济高质量发展和社会进步的建设性力量，共同迈向一个安全、可靠、可信的智能未来。（作者：薛澜，清华大学文科资深教授、清华大学苏世民书院院长）