共商共建全球人工智能治理体系 清华大学人工智能国际治理研究院 人工智能治理研究中心（清华大学） 清华大学中国科技政策研究中心 2024.12 概 览 2023 年前后，以 ChatGPT、Sora 等为代表的大模型取得突破性进展，各国研究者普遍认为，大模型出现预示着通用人工智能逐渐可能甚至即将成为现实，人工智能能力和自主性的大幅提高在给世界带来驱动经济增长、提升民生福祉、赋能可持续发展等巨大机遇的同时，也放大了潜在的负外部性，出现难以预测的风险和复杂治理挑战。面对人工智能技术的快速发展，建立与之对应的人工智能国际治理体系的必要性不断上升。 结合人工智能发展的基本情况来看，当前人工智能发展处于快速突破的关键时期，人工智能技术已经具备复合技术特性和多重议题属性，展现出风险广泛性、风险不确定性、快速成长性等典型特征，亟需通过国际治理体系和机制有效管控风险。面对建立人工智能国际治理体系和机制的现实需要，人工智能国际治理正在经历从多方主体主导向多边主体主导的演化进程，但仍然存在合理性赤字、公正性赤字、有效性赤字等挑战。 为了应对上述治理挑战，国际组织、各国政府、科学界、产业界以及社会公众等多元利益攸关方，都广泛参与人工智能国际治理的议程进程，共同塑造人类与人工智能发展的未来。在过去的一年多时间里，联合国及其附属机构、各国政府与科学界和产业界等不同治理主体积极行动，以国际共识、规则制定、标准推动、技术实践等治理形式推动人工智能全球治理发展；而围绕数据治理、算法治理、生成式人工智能治理等具体治理议题上也取得了一些治理成果。 展望未来，人工智能国际治理应建立包容性的治理机制和体系，构建以联合国为中心的治理协商平台，充分利用多边、双边等各类政府间机制加强政策沟通与经验分享，充分发挥科学界、产业界、研究智库、国际论坛等多元主体与平台机制作用，共同推动人工智能治理国际交流与对话。在发展治理领域，需要公平分配人工智能资源和基础设施，建立全球知识交流网络，加强发展中国家人工智能能力建设，推动设立全球人工智能基金建设。在安全治理领域，需要推动国际合作防范人工智能重大风险，加强国际合作防范人工智能误用、滥用和恶用，加强人工智能安全的技术保障的国际合作，提升人工智能数据安全和隐私保护国际合作，推动构建透明可问责的人工智能安全治理合作机制。我们相信，只有在全球范围内的合作与努力下，我们才能在充分发挥人工智能的潜力的同时确保智能向善，为人类带来更大的福祉。 <div