538,000 AI-Generated Infringing Videos Removed, Douyin: Industry Still Faces Identification Challenges

随着AI生成技术的快速普及，网络空间治理正面临一系列行业性新挑战。 <br> 比如AI换脸直播、声音克隆带货、“魔改”经典影视，以及仿冒名人蹭热度等，AI技术门槛的持续降低让侵权手段不断翻新，而识别难、判定难、跨平台追责难，已成为当前内容平台普遍面临的共性治理困境。 <br> 为了应对上述情况，观察者网获悉，抖音正持续升级防控体系，并于近期对外发布了“AI生成不当内容及侵犯他人权益”专项治理公告，披露了阶段性治理成效。 <br> 公告显示，2026年以来，平台已累计下架AI侵权视频超53.8万条，处罚违规账号4000余个。其中，针对AI仿冒蹭热行为，下架视频超36万条；针对AI肖像、AI声音类侵权内容，累计处置8.5万条；对利用“AI霸总”形象误导、诱导中老年人互动的不当内容，已清理相关内容3万余条、处置违规账号1300余个。 <br> 抖音相关负责人表示：“平台会持续投入提升相关治理能力，但需要承认，当前行业仍普遍面临AI生成内容判断难、AI声音识别能力不足等难题。” <br> 明确两大重点整治方向 <br> 围绕社会高度关注的AI违规侵权场景，抖音此次明确了两大重点整治方向，并结合典型案例划定了治理边界。 <br> 一是AI换脸、盗声及侵权带货。 <br> 在这一领域，违规手段主要包括：未经授权，利用AI换脸技术将公众人物、普通用户肖像合成至低俗、恶搞场景，恶意丑化他人形象；通过AI克隆知名艺人声音、合成其肖像，制作虚假商品推荐视频，用于直播带货引流；利用AI技术生成与某知名人士高度相似的虚拟形象，诱导用户互动甚至打赏。 <br> 典型的案例是，此前有部分账号利用演员李亚鹏的社会关注度，通过AI技术深度合成其肖像和声音，用于商品营销。由于合成效果高度逼真，不少中老年用户信以为真，下单购买后发现产品与宣传严重不符。 <br> 此类行为不仅侵犯了当事人的肖像权和声音权，更扰乱正常网络传播秩序。抖音方面表示，此类违规内容都已被平台依法清理，涉事账号从严处罚。 <br> 二是通过AI技术“魔改”经典进而传播违规内容。 <br> 所谓“魔改”，是指利用AI技术对经典影视作品、文艺作品进行大幅修改，往往以戏谑、恶搞为名，甚至夹带血腥暴力、色情低俗等违规内容。 <br> 早在2024年左右，各类平台上就出现过被AI魔改的国产老剧短视频，比如“甄嬛传枪战”“林黛玉打拳击”“孙悟空骑机车”等。 <br> 今年年初，据央视新闻、《法治日报》等媒体报道，一种在网络上被称为“AI拼接怪兽”或“外国山海经”的邪典视频在未成年群体中隐秘流行。这类视频利用AI将动物、物品与人类特征随机拼接，批量制造出荒诞离奇的怪异形象，并配以魔性音效，其中部分图片和视频中不乏暴力词汇，以及危险动作。 <br> 这将对未成年人尚未成熟的审美体系与价值认知造成冲击。抖音在公告中指出，对涉嫌违法的行为，平台将及时上报有关部门，配合开展执法工作。 <br> 行业共性问题难解 <br> 值得关注的是，抖音在公告中坦承，当前行业仍普遍面临AI生成内容判断难、AI声音识别能力不足等难题。这不是抖音一家平台的困境，而是整个互联网内容行业面临的共性挑战。 <br> 从技术层面看，AI生成内容的逼真度正在呈指数级提升，人眼和人耳的识别能力已远远落后。 <br> 观察者网查询发现，一篇本月发表于arXiv的学术综述系统梳理了2025-2026年间关于人类识别AI生成内容的30项实证研究，得出的结论令人警醒：人类识别AI生成内容的准确率普遍接近随机水平，即相当于靠猜。 <br> 声音识别领域的挑战也很突出。另一篇发表于去年7月的auditory Turing test研究对包括GPT-4o音频能力在内的主流AI音频模型进行了系统性评估。研究设置了重叠语音、噪声环境、时间畸变、空间音频等七类听觉挑战场景。 <br> 结果显示，即便是当前最先进的AI音频模型，在这些对人类而言轻而易举的任务上的失败率也超过93%。这意味着，平台要建立一套能够准确识别AI合成音频的技术系统，目前仍面临技术瓶颈。 <br> 对此，抖音在公告中明确了下一步的治理举措： <br> 一是持续加大技术投入。平台将加大技术投入，以完善AI侵权案例样本库，升级大模型识别与精准处置能力。 <br> 二是畅通用户举报渠道。 目前抖音已构建起多维度的举报体系，涵盖App内的AI警示语举报、长按视频一键举报、账号主页举报，以及PC端批量举报、专属邮箱反馈等。 <br> 其中，PC端批量举报支持单次提交2000条侵权链接，覆盖肖像权、知识产权等八大高频维权场景。后续，平台还将上线非权利人监督举报入口，以补齐治理短板。 <br> 抖音方面呼吁全体用户自觉坚守文明创作底线，理性运用AI技术，坚决抵制AI不当内容与侵权行为，发现违规内容及时通过官方渠道举报。