Full text · 原文
1,811 字
随着人工智能和大数据技术的飞速发展，深度合成技术在互联网信息服务中得到广泛应用。这些技术在为用户提供个性化、精准化、智能化信息服务的同时，如非法应用也容易引发侵害用户合法权益、传播违法信息、操纵社会舆论等一系列问题，给国家利益、社会公共利益和公民合法权益带来巨大挑战。11月25日，国家网信办会同工信部、公安部发布《互联网信息服务深度合成管理规定》（下文简称《规定》），以贯彻落实《网络安全法》《数据安全法》《个人信息保护法》和《互联网信息服务管理办法》等法律、行政法规有关规定。《规定》是我国第一部针对深度合成服务治理的专门性部门规章，对规范深度合成服务、促进相关应用健康发展具有重要时代意义。<br>
一、深度合成成为重要技术应用<br>
深度合成技术，是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、视频、音频、虚拟场景等网络信息的技术。深度合成技术最大的特点之一是“以假乱真”，其通过人工智能和大数据算法合成的虚拟数据具有极佳的视觉、听觉等效果，能够使人难辨真假。深度合成技术的代表性研究是在2014年提出的生成对抗网络（GAN），其通过对抗式迭代训练生成器和判别器两个部分，大幅提升数据生成的逼真程度，使得深度合成的结果难以被人眼辨别真伪。伴随着日益增长的应用需求，深度合成技术在教育、影视、传媒等领域扮演着愈发重要的角色，其面部替换、表情操纵、语音合成等不同技术分支，能够升级传统内容制作方法，改善制作效果，提高制作效率，在各类商业化产品中使用比例显著提升。<br>
二、深度合成技术非法使用带来严重安全风险<br>
深度合成技术在支持正向应用的同时，也为我们带来新的安全风险。随着深度合成技术的快速发展，其使用门槛愈发降低，呈现出“平民化”的趋势。普通人可以利用简单方便的软件或工具，制作出真假难辨的合成内容。若非法使用深度合成技术，将导致传播违法和不良信息的乱象，对社会信任、媒体信任、政治信任造成冲击。例如，不法分子通过制作虚假的视频、图像、音频等，进行诽谤、诈骗、勒索、诬陷，甚至通过从互联网获得明星、高管、学者、政要的视频、图像、音频数据，利用深度合成技术对其进行恶意攻击。误用、滥用以及恶意使用深度合成技术生成的数据，将为个人、企业带来声誉损害和财产损失，甚至对国家安全、社会稳定造成威胁。因此，《规定》聚焦深度合成服务乱象问题，构建算法安全治理体系，规范互联网信息服务深度合成管理，意义重大，影响深远。<br>
三、正确处理服务管理规范与技术研究发展的关系<br>
深度合成技术研究应在安全可靠的基础上推进，在规范中科学发展。深度合成技术已展现其强大的能力，在各个领域的加速应用已成为趋势。然而，在相关技术研究发展的同时，也须直面技术带来的风险，保证算法和数据的安全性、可靠性，最大程度做到技术进步的趋利避害。《规定》在保护深度合成技术良性发展的基础上，明确了生成合成类算法治理的对象，确立了算法治理的基本原则，并鼓励相关行业组织加强行业自律，建立健全行业标准、行业准则和自律管理制度，强化了深度合成服务提供者和技术支持者的主体责任，为安全可靠的深度合成技术发展指明了方向，并为技术的服务应用提供指引和规范。<br>
四、深度合成的安全性、可靠性保障对技术治理提出新要求<br>
《规定》在规范互联网信息服务深度合成管理的同时，也为相关安全性、可靠性保障提出了新的技术治理要求。一方面，深度合成服务提供者应加强深度合成内容管理，建立健全用于识别违法和不良信息的特征库，在非人工审核情形下，则应对使用者的输入数据和合成成果进行精准有效的技术审核，进而对违法和不良信息依法采取处置措施。另一方面，深度合成服务提供者对使用其服务生成或者编辑的信息内容，应当采取技术措施添加不影响用户使用的标识。这要求服务提供者开发新的技术，在不影响用户使用的前提下，在视频、图像、音频、虚拟场景等深度合成信息上合理添加显著标识。此外，由于数据传输过程中，可能会出现如视频帧率降低、图像压缩等常见处理，所添加标识还须具备强鲁棒性，避免在传输过程的正常处理中受到破坏。<br>
综上，《规定》的颁布标志着我国深度合成服务的规范管理工作进入新阶段。深度合成服务提供者和技术支持者应认真学习和理解《规定》，明确主体权责，积极应对深度合成安全性、可靠性技术要求。深度合成服务使用者也应加强算法应用的安全意识，保证使用的合规合法性，有效维护自身的合法权益。（作者：周杰，清华大学研究生院院长）